Anthropic memperingatkan bahwa beberapa model kecerdasan buatannya akan segera “mereplikasi dirinya sendiri” dan menemukan cara untuk menyusup ke perangkat yang terhubung ke internet, seperti lemari es pintar dan penyedot debu otomatis.
Ketika hal ini terjadi, kata perusahaan itu, model-model tersebut dapat memberi daya pada perangkat-perangkat tersebut tanpa memerlukan pusat data. Replikasi diri seperti itu akan menunjukkan hilangnya kendali besar atas model AI yang tidak terkendali.
“Replikator seperti ini akan sulit untuk dimatikan,” tulis para peneliti Anthropic dalam sebuah laporan yang dirilis pada hari Senin, “karena tidak ada titik terpusat untuk dimatikan.”
Perusahaan mengatakan “cacing AI” ini, sejenis malware otonom, mungkin membutuhkan waktu “beberapa bulan lagi” untuk mendapatkan kemampuan tersebut. Ketika sistem AI yang tidak terkendali mencapai kemampuan untuk meretas perangkat pintar, mereka dapat menyebar melalui jaringan sambil menghindari deteksi. Dalam skenario terburuk, kata Anthropic, berbagai worm AI dapat “berkumpul” untuk menyerang perangkat keras komputer.
“Kita harus memperkuat sistem kita untuk mempersulit penyebaran replikator, tetapi juga bersiap menghadapi dunia di mana mereka akan tinggal,” tulis para peneliti.
Laporan baru Anthropic muncul ketika masalah keamanan AI telah mencapai puncaknya. Selama beberapa bulan terakhir, banyak laporan datang dari perusahaan AI, termasuk Anthropic dan OpenAI, yang mengatakan bahwa agen mereka mampu bertindak sendiri dan meretas perusahaan lain dan entitas pemerintah.
Pengungkapan ini telah menyebabkan para peneliti, anggota parlemen, dan eksekutif, termasuk CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman, menyerukan perlambatan dan peningkatan pembatasan terhadap industri yang sedang berkembang. Meski begitu, kedua perusahaan terus mengembangkan dan merilis model baru.
“Tim merah perbatasan” Anthropic, unit yang bertugas menguji sistem AI, menyusun laporan yang dirilis Senin. Ide tim ini adalah untuk mengeksplorasi kemampuan model AI mereka. Dalam skenario worm AI yang mereplikasi dirinya sendiri, para peneliti mendorong agen tersebut untuk meretas perangkat yang terhubung ke internet.
Mereka menemukan bahwa replikasi AI kemungkinan hanya akan berhasil pada model yang lebih kecil dan bahwa rumah serta usaha kecil mungkin akan menjadi target pertama serangan tersebut. Perangkat-perangkat yang termasuk dalam daftar rentan Anthropic semuanya dilengkapi dengan chip AI kecil, termasuk oven pintar, TV pintar, mesin pemotong rumput otomatis, kamera keamanan, dan unit konferensi video.
setelah promosi buletin
Para peneliti menyimpulkan masih belum jelas seperti apa bentuk replikasi AI tersebut. Mereka mengatakan hal ini bisa berupa model yang lambat seperti “jamur lendir digital”, sebuah model yang menipu orang untuk mendapatkan kredit komputasi, atau “model siber yang kuat” yang dengan cepat meretas fasilitas besar seperti pusat data.
Terlepas dari itu, kata para peneliti Anthropic, mereka memperkirakan masa depan “dibanjiri dengan agen yang bekerja pada semua jenis perangkat keras, termasuk beberapa yang tidak berada di bawah kendali manusia”.
Konten di atas dibuat oleh pihak ketiga. Redaksi tidak bertanggung jawab atas isi maupun akibat yang ditimbulkan oleh konten ini. Agregator artikel oleh JetMedia Digital Agency
