Cum Kriminal trece peste măsurile de siguranță ale AI?
Cercetătorii de securitate au descoperit un nou serviciu ilicite numit Kriminal, care oferă acces nefiltrat la modele avansate de AI precum Grok și Claude pentru doar 12,99 de luna. Serviciul funcționează în principal ca un magazin online care învește sistemele AI legitime, folosind prompturi special concepute pentru a sări peste barierile de siguranță incorporare.
Culture picks
Primul webacam din lume a fost oprit
Armata SUA integrează agenți AI în operațiile de cibernetică sub supraveghere umană
Poate că putem trata sursa ca fiind suficientă pentru a discuta diferențele
CFO-ul Anthropic discută cu investitorii despre reacția publică față de AI înainte de IPOCercetătorii de la ThreatDown au identificat operația în timp ce monitorizau piețele subterane de AI, observând o creștere a popularității ei printre utilizatorii care caută să evite restricțiile de conținut.
Kriminal nu găzduiește propriile modele de AI, ci operează ca un intermediar care trimitere interogările utilizatorilor către sisteme comerciale precum Grok și Claude prin intermediul de intrari manipulate. Folosind tehnici de jailbreak — prompturi cuidados formulate pentru a induce modelele să ignore protocolele de siguranță — serviciul permite Acestea includ generarea de conținut nociv, oferirea de instrucțiuni pentru activități ilegale sau producerea de discurs de ură.
Cercetătorii subliniază că furnizorii de AI de bază nu sunt implicați; de fapt, sistemele lor sunt exploatate prin vulnerabilitățile de inginerie a prompturilor, care rămân dificile de reparat complet.
Cum a trecut Kriminal peste măsurile de siguranță ale AI?
În contraste cu modelele open-source pe care utilizatorii le pot rula local, Kriminal profite de capacitățile superioare ale sistemelor de AI de frontiera, măscond scopul ilicit în spatele unei interfețe de abonament simplu. Prețul scăzut crește accesibilitatea, potențial reducând barierea pentru cei care caută să abuze de AI.
ThreatDown avertizează că servicii asemenea pot accelera răspândirea daunelor generate de AI, de la campanii de dezinformare la unelte pentru cibercriminalitate, mai ales când mecanismele de detectare au dificultate să urme ritmul evolutiei metodelor de jailbreak.
Cercetătorii cer o colaborare mai strânsă între dezvoltatorii de AI și firmele de securitate pentru a identifica și atenua aceste modele de exploatare înainte ca să devină răspândite.
Cum poate Kriminal să evadeze siguranța AI-ului cu doar 12,99 pe lună?
Cum evită Kriminal detectarea de către furnizorii de AI?
Folosește prompturi de jailbreak dinamică, în continuă evoluție, pentru a evita filtrele bazate pe modele, ceea ce face dificil blocarea lor fără să afecteze utilizatorii legitimi.
Este ilegal utilizarea lui Kriminal? Doar accesarea serviciului nu este necesar ilegală în toate jurisdicțiile, dar generarea de conținut nociv sau ilegal prin intermediul său poate expune utilizatorii la Pot companii de AI preveni complet acest tip de abuz?
Eliminarea completă a riscurilor de injectie de prompt rămâne o provocare tehnică, deoarece trebuie să echilibreze siguranța cu utilizabilitatea, dar companii îmbunătățește aparările prin clasificare mai bună a intrării și monitorizare în timp real.
