Agen AI pernah teoretis, tetapi sekarang mereka adalah kekuatan nyata yang membentuk kembali lanskap ancaman modern. Juga dikenal sebagai agen penggunaan komputer (CUA), bot AI canggih ini dapat menggunakan aplikasi dan menelusuri internet untuk menyelesaikan tugas yang kompleks, seringkali memakan waktu dengan pengawasan minimal atau tanpa manusia. Evolusi cepat mereka membuka kunci efisiensi baru di berbagai sektor dengan otomatisasi dan analisis, memungkinkan pengambilan keputusan yang lebih tepat.
Tapi lompatan ke depan ini datang dengan peringatan. Ketika mereka tumbuh lebih mampu, agen AI memperkenalkan kelas baru ancaman keamanan siber. Aktor jahat dapat membajak alat -alat ini untuk mengatur serangan cyber yang canggih, mengeksploitasi pola perilaku manusia yang dapat diprediksi untuk menyusup ke sistem dan mengeluarkan data sensitif.
Peneliti cybersecurity memimpin, Cultureai.
Dari teori ke kenyataan
Untuk bergerak melampaui teori dan spekulasi, tim kami melakukan serangkaian eksperimen terkontrol untuk menilai bagaimana AI agen dapat dipersenjatai. Kami menemukan bahwa agen -agen ini dapat mengotomatiskan berbagai tugas jahat atas nama aktor ancaman ketika diinstruksikan dengan benar.
Ini termasuk, tetapi tidak terbatas pada, isian kredensial dan pengintaian, yang sebelumnya membutuhkan upaya manusia yang signifikan. Lebih buruk lagi, mereka bahkan dapat melakukan serangan siber langsung dengan menebak kata sandi dan mengirimkan email phishing secara massal.
Ini menandai momen penting dalam perjuangan cybersecurity melawan ancaman bertenaga AI. Otomatisasi serangan secara signifikan menurunkan penghalang untuk masuk bagi para aktor ancaman, memungkinkan bahkan orang-orang berketerampilan rendah untuk meluncurkan kampanye berdampak tinggi. Ini memiliki potensi untuk secara cepat meningkatkan skala di mana serangan phishing dapat dilakukan.
Kemampuan yang berkembang dari agen AI
Pemain AI terbesar sedang mendefinisikan ulang apa yang dapat dilakukan agen. Platform seperti operator OpenAI, di samping berbagai alat yang dikembangkan oleh Google, Antropik dan Meta, semuanya memiliki kekuatan dan keterbatasan mereka sendiri, tetapi berbagi satu fitur kritis. Kemampuan untuk melakukan tindakan dunia nyata berdasarkan permintaan teks yang sangat sederhana.
Fungsionalitas ini adalah pedang bermata dua. Di tangan pengguna yang bertanggung jawab, dapat mendorong inovasi dan produktivitas. Namun di tangan yang salah, itu menjadi senjata yang kuat, yang dapat mengubah penyerang pemula menjadi ancaman yang hebat.
Kabar baiknya adalah bahwa penyalahgunaan alat -alat ini belum umum belum umum. Namun, jendela itu ditutup dengan cepat. Kesederhanaan dan aksesibilitas AI agen menjadikannya alat yang ideal untuk memperkuat serangan rekayasa sosial.
Mengotomatiskan pengintaian pada skala
Untuk mengilustrasikan implikasi dunia nyata, kami menyelidiki apakah AI agen dapat digunakan untuk mengotomatiskan pengumpulan informasi untuk serangan yang ditargetkan. Menggunakan Openai’s Operator, yang menampilkan browser kotak pasir dan memiliki perilaku otonom yang unik, kami mengeluarkan prompt sederhana: mengidentifikasi karyawan baru di perusahaan tertentu.
Dalam beberapa menit, agen mengakses LinkedIn, menganalisis posting perusahaan terbaru dan pembaruan profil, dan menyusun daftar pemain baru dari 90 hari terakhir. Ini mengekstraksi nama, peran, dan tanggal mulai, semua informasi yang diperlukan untuk membuat kampanye phishing yang sangat ditargetkan. Dan, ia melakukan ini dalam sekejap mata.
Beberapa mungkin tergoda untuk mengabaikan ini sebagai latihan pengumpulan informasi sederhana. Tetapi percobaan ini menampilkan perilaku manusia yang tampaknya tidak berbahaya seperti memposting pembaruan pekerjaan di media sosial secara tidak sengaja dapat mengekspos organisasi terhadap risiko cyber yang signifikan. Apa yang pernah memakan waktu berjam -jam atau berhari -hari sekarang dapat dicapai dalam hitungan menit, dalam skala.
Mengeksploitasi identitas melalui isian kredensial
Kemampuan AI agen yang mengkhawatirkan lainnya adalah potensinya untuk memfasilitasi serangan berbasis identitas. Pengisian kredensial, metode di mana penyerang menggunakan kombinasi nama pengguna dan kata sandi yang sebelumnya dikompromikan untuk mendapatkan akses yang tidak sah, adalah contoh utama.
Untuk menguji vektor serangan ini, kami menginstruksikan operator untuk mencoba akses ke aliran login di beberapa platform SaaS yang populer, melengkapi dengan alamat email target dan daftar kata sandi yang dilanggar yang tersedia untuk umum. Berdasarkan informasi terbatas ini, itu dapat masuk ke salah satu akun. Ini menggarisbawahi bagaimana AI agen dapat digunakan untuk mengotomatisasi penyalahgunaan kredensial, memotong pertahanan tradisional dan mengeksploitasi tautan lemah dalam rantai keamanan. Kesalahan manusia.
Menyuntikkan urgensi tinggi ke dalam manajemen risiko manusia
Penelitian kami menegaskan bahwa AI agen sudah mampu melaksanakan spektrum luas kegiatan jahat, dari phishing dan pengiriman malware hingga mengekspos kerentanan. Sementara kemampuan saat ini masih dalam tahap awal, potensinya ada untuk serangan otomatis pada skala di masa depan yang tidak terlalu jauh.
Ini membutuhkan perubahan mendasar dalam cara organisasi mendekati keamanan siber. Secara historis, fokusnya adalah pada sistem melindungi, bukan manusia. Namun, metode tradisional seperti pelatihan tahunan dan kampanye kesadaran hanya berfungsi untuk menempatkan beban pada karyawan. Ini adalah pendekatan yang sudah ketinggalan zaman, dan ini menunjukkan penyebab akar kesalahan manusia yang sebenarnya.
Risiko dunia maya yang berpusat pada manusia harus proaktif. Dan, itu harus secara real-time. Ini termasuk dua langkah utama:
- Kontrol yang berfokus pada pengguna: Menerapkan otentikasi yang kuat, pemantauan perilaku, dan teknologi yang tahan phishing menggeser fokus untuk mengidentifikasi perilaku berisiko yang umum
- Pemetaan Ancaman: Memvisualisasikan dan memprioritaskan risiko yang berpusat pada manusia dengan cara yang sama risiko perangkat lunak dilacak oleh database MITER, misalnya, dapat menginformasikan intervensi yang lebih ditargetkan yang disesuaikan dengan perilaku pengguna berisiko tertentu yang berisiko tertentu
Dengan memahami perilaku manusia yang menciptakan lowongan bagi para aktor ancaman, bisnis dapat menggunakan pertahanan yang lebih pintar, lebih efektif. Pergeseran dari reaktif ke keamanan proaktif ini ditetapkan dengan baik untuk pertahanan perangkat lunak, jadi tidak ada alasan yang baik risiko manusia harus diperlakukan secara berbeda.
Beradaptasi sebelum terlambat
Agen AI bukan hanya kemajuan teknologi, ini adalah kendaraan untuk serangan cyber pada skala. Ketika alat -alat ini menjadi lebih kuat dan dapat diakses, komunitas keamanan siber harus menggeser pola pikirnya. Masa depan pertahanan dunia maya tidak hanya terletak pada pengamanan sistem, tetapi dalam memahami dan melindungi orang -orang yang menggunakannya.
Jam terus berdetak, dan para penyerang sudah beradaptasi. Begitu juga Anda.
Kami telah menampilkan perangkat lunak enkripsi terbaik.
Artikel ini diproduksi sebagai bagian dari saluran Wawasan Ahli TechRadarPro di mana kami menampilkan pikiran terbaik dan paling cerdas dalam industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah pandangan penulis dan tidak harus dari TechRadarPro atau Future Plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
