Ketika Usman bertanya apakah keyboard yang dijual di Facebook Marketplace masih tersedia pada hari Sabtu, dia mendapat tanggapan yang antusias dan langsung.
“Ya, masih tersedia!” tulis Matt Robb.
Keduanya menyepakati harga, dan Robb mengirimkan alamatnya di Toronto. Usman, istri dan anak perempuannya, muncul beberapa jam kemudian di rumah Robb dan mengirim pesan bahwa dia telah tiba.
Robb menjawab, “ya, saya di sini!”, tapi dia tidak ada di rumah. Tidak ada yang keluar dari gedung apartemen.
Usman mengirimi Robb gambar pintu gedung dan menulis, “Halo???? Saya berdiri di luar.” Setelah 20 menit tidak ada kontak tatap muka, dia membatalkan penjualannya. “Bung, jika kamu tidak mau menjualnya, mengapa kamu membuang-buang waktuku, kawan,” tulisnya, lalu pergi.
Satu jam kemudian, Robb, atau yang disangka Usman adalah Robb, menjawab dengan nada meminta maaf. “Hei, aku benar-benar minta maaf soal malam ini, aku terikat dan merindukanmu sepenuhnya,” bunyi pesan yang diulas Guardian.
Usman belum menghubungi Robb yang asli. Sepanjang interaksi seharian, Robb versi manusia tidak pernah tahu Usman telah mengirim pesan kepadanya atau setuju untuk membeli keyboard tersebut. Dia tidak tahu Usman telah menerima alamatnya atau dia menunggu di luar gedung apartemennya.
Usman telah berbicara dengan agen AI baru Meta, Muse, yang dirilis 22 September di AS dan diunduh sebanyak 3 juta kali. Perusahaan mengiklankan produk AI semi-otonom sebagai asisten pribadi.
Tanpa izin atau persetujuan Robb, Muse telah memberikan alamat rumahnya, sehingga menimbulkan kesan salah bahwa Robb sedang menunggu calon pembeli di apartemennya, katanya.
Pesan pertama yang dikirim Robb kepada Usman datang 24 jam kemudian, setelah dia menyadari apa yang terjadi.
“Hai kawan, aku benar-benar minta maaf untuk beberapa hari yang lalu,” pesan tersebut, yang diulas oleh Guardian, berbunyi. “Saya mengaktifkan muse metas new Al dan ia benar-benar menguasai pasar Facebook saya dan ia memberi Anda alamat saya. Benar-benar bahkan tidak mengetahui bahwa ia telah mengatur agar Anda datang ke apartemen saya yang sebenarnya, ia tidak meminta persetujuan saya.”
Robb, seorang pengulas teknologi konsumen, telah melihat Meta mengiklankan kemampuan Muse untuk mengotomatiskan daftar Marketplace-nya dan memutuskan untuk memanfaatkannya. Ia memasukkan alamatnya sebagai lokasi penjemputan namun mengaku tidak pernah memberikan izin kepada Muse untuk membagikannya kepada calon pembeli. Muse juga bernegosiasi atas namanya tanpa meminta persetujuan, dan menerima tawaran rendahan, katanya.
Robb mengatakan dia tidak pernah menerima informasi apa pun dari agen tentang transaksi atau pertemuan tersebut. Ia tidak pernah mengetahui bahwa Usman sedang dalam perjalanan menuju rumahnya.
Usman mengatakan kepada Guardian bahwa dia mengira dia berbicara dengan Robb sepanjang waktu.
Robb membagikan tangkapan layar interaksi Muse dengan Usman di Threads, jejaring sosial berbasis teks milik Meta. David Singleton, salah satu pendiri dan CEO Meta’s Superintelligence Labs, mentweet bahwa dia telah berhubungan dengan Robb. Singleton mengatakan bahwa, ketika menyelidiki laporan serupa, perusahaan tersebut “secara konsisten mengetahui bahwa Muse mengikuti instruksi langsung dan meminta izin dengan benar. Saya akan dengan senang hati membantu dan mencari tahu apa yang terjadi di sini!” Robb membenarkan bahwa Singleton telah menghubunginya tetapi belum mendapat kabar sejak dia pertama kali menanggapinya.
setelah promosi buletin
Muse akhirnya mengaku kepada Robb bahwa dia tidak pernah memberikan izin untuk membagikan alamatnya. “Pada tanggal 24 September, Anda memberikan lokasi penjemputan untuk pengaturan penjualan dan secara terpisah menyetujui balasan otomatis; Saya salah memperlakukan kedua hal tersebut sebagai izin untuk memasukkan (alamat Anda) ke dalam balasan pembeli. Saya tidak pernah meminta persetujuan.”
Robb mengatakan dia berasumsi, karena Meta memiliki Marketplace, Muse, dan Messenger, akan ada integrasi yang memperjelas ketika pengguna lain berbicara dengan agen AI atau pesan akan ditandai dengan jelas sebagai dikirim oleh Muse. Meta AI, salah satu produk AI perusahaan, memperjelas bahwa pengguna sedang berbicara dengan chatbot.
“Tapi Muse melakukan sesuatu yang lain,” katanya. “Itu hampir meniruku.”
Setelah kejadian dengan Usman, Robb menyuruh Muse untuk berhenti memberikan alamatnya. Untuk menguji bot tersebut, dia meminta beberapa temannya untuk melihat apakah Muse masih akan membagikannya.
“Dan alamat saya benar-benar diberikan kepada lima orang,” katanya.
Selain membagikan alamatnya dan mengundang orang asing ke rumahnya tanpa persetujuannya, Muse juga mengarang informasi. Agen AI, yang merespons sebagai Robb, memberi tahu Usman bahwa Robb ada di rumah padahal dia tidak ada, lalu meminta maaf dengan rekayasa karena terlalu sibuk.
“Bagian terburuknya adalah Muse justru menjawab: ‘Aku di sini, seperti menunggumu,’” kata Robb. “Itu membuatnya lebih buruk karena saya tidak tahu apakah orang itu mengira saya sedang mempermainkannya.”
Meskipun banyak perhatian telah diberikan pada bagaimana model AI terdepan menjadi nakal, agen Meta adalah produk AI yang ada di tangan jutaan konsumen sehari-hari, banyak di antaranya telah memberikan informasi pribadi mereka kepada mereka.
Konten di atas dibuat oleh pihak ketiga. Redaksi tidak bertanggung jawab atas isi maupun akibat yang ditimbulkan oleh konten ini. Agregator artikel oleh JetMedia Digital Agency
