- Penelitian baru menunjukkan alat AI sedang digunakan dan disalahgunakan oleh penjahat cyber
- Peretas membuat alat yang mengeksploitasi LLMS yang sah
- Penjahat juga melatih LLM mereka sendiri
Tidak dapat dipungkiri bahwa AI sedang digunakan oleh tim cybersecurity dan penjahat cyber, tetapi penelitian baru dari Cisco Talos mengungkapkan bahwa penjahat semakin kreatif. Perkembangan terbaru dalam lanskap AI/Cybersecurity adalah bahwa LLMS yang ‘tidak disensor’, LLMS Jailbroken, dan LLM yang dirancang oleh penjahat dunia maya sedang dimanfaatkan terhadap target.
Baru -baru ini terungkap bahwa baik version AI Grok dan Mistral memberi daya pada varian cacing yang menghasilkan kode jahat, serangan rekayasa sosial, dan bahkan memberikan tutorial peretasan – jadi jelas menjadi taktik populer.
LLM dibangun dengan fitur keamanan dan pagar, memastikan prejudice dan outcome minimal yang terdiri dari nilai -nilai manusia dan etika, serta memastikan chatbots tidak terlibat dalam perilaku berbahaya, seperti membuat malware atau e-mail phishing – tetapi ada pekerjaan di sekitarnya.
Jailbroken dan tanpa sensor
Yang disebut LLMS tanpa sensor yang diamati dalam penelitian ini adalah versi model AI yang beroperasi di luar kendala normal. Ini berarti bahwa mereka dapat melakukan tugas -tugas untuk para penjahat dan membuat konten yang berbahaya. Ini cukup mudah ditemukan, penelitian menunjukkan, dan mudah dijalankan – dengan hanya permintaan yang relatif sederhana diperlukan.
Beberapa penjahat telah melangkah lebih jauh, menciptakan LLM sendiri, seperti Wormgpt, Fraudgpt, dan Darkgpt. Ini dipasarkan ke aktor buruk dan memiliki seluruh fitur jahat. Misalnya, FraudGpt mengklaim dapat membuat skrip otomatis untuk mereplikasi log/cookie, menulis halaman/huruf penipuan, menemukan kebocoran dan kerentanan, dan bahkan belajar kode/peretasan.
Yang lain menavigasi di sekitar fitur keamanan model AI yang sah melalui chatbots ‘jailbreaking’. Ini dapat dilakukan dengan menggunakan ‘teknik pengayaan,’ yang mencakup pengkodean base 64/ ROT- 13, menggunakan berbagai bahasa, “L 33 T SP 34 K”, emoji, dan bahkan kode Morse.
“Ketika teknologi AI terus berkembang, Cisco Talos mengharapkan penjahat cyber untuk terus mengadopsi LLM untuk membantu merampingkan proses mereka, menulis alat/skrip yang dapat digunakan untuk mengkompromikan pengguna dan menghasilkan konten yang dapat dengan lebih mudah melewati pertahanan. Teknologi baru ini tidak selalu mempersenjatai cybercriminals dengan senjata cyber yang benar -benar baru, tetapi hal itu bertindak sebagai aksi.
