Pada tanggal 30 Januari, beberapa penduduk daerah Frederick menerima pemberitahuan bahwa petugas pemadam kebakaran sedang memadamkan “api komersial” di pusat kota.
Tangkapan layar peringatan tersebut dibagikan ke Facebook, memicu kekhawatiran yang dengan cepat dihilangkan oleh salah satu komentator yang menulis: “Saya sedang duduk di kantor di gedung itu dan tidak ada apa-apa yang terjadi.”
Sebuah aplikasi pemberitahuan darurat yang menggunakan kecerdasan buatan telah salah menafsirkan lalu lintas radio dari latihan yang menyimulasikan kebakaran bangunan di pusat kota, menurut sebuah pos dari Distrik Perlindungan Kebakaran Frederick-Firestone.
“Insiden ini adalah pengingat yang baik akan pentingnya memverifikasi informasi melalui berbagai sumber terpercaya sebelum membagikan atau mengambil tindakan,” tulis postingan tersebut.
Summer Campos, juru bicara distrik tersebut, mengatakan dia tidak yakin bagaimana aplikasi tersebut dapat mengakses saluran yang digunakan petugas pemadam kebakaran. Di masa depan, distrik tersebut akan menggunakan saluran taktis yang tidak mengudara secara publik, katanya.
Campos tidak dapat memastikan aplikasi apa yang memperingatkan warga tentang situasi palsu tersebut. Namun CrimeRadar, sebuah aplikasi yang menggunakan AI untuk merangkum audio pengiriman yang tersedia untuk umum, memiliki postingan yang menggambarkan kebakaran di pusat kota Frederick.
Peringatan palsu seperti itu tidak hanya terjadi pada Frederick. Di Boulder dan Longmont, notifikasi darurat yang digerakkan oleh AI telah menyebarkan informasi palsu yang, dalam beberapa kasus, telah memicu kekhawatiran yang sangat nyata.
Peringatan salah
Pada hari Rabu, CrimeRadar mengirimkan peringatan yang melaporkan kebakaran apartemen di Longmont. Audio pengiriman yang ditautkan tidak menyertakan lokasi, dan Rogelio Mares, juru bicara kota tersebut, mengatakan kota tersebut belum menerima laporan adanya kebakaran apartemen. Postingan tersebut kemudian menghilang dari CrimeRadar.
CrimeRadar memantau audio pengiriman yang tersedia untuk umum dan kemudian menggunakan AI untuk menghasilkan ringkasan, menurut situs webnya. Pengguna mengakses peringatan di situs web CrimeRadar atau dengan mengunduh aplikasi CrimeRadar, yang juga mengirimkan peringatan push.
Meskipun transmisi radio polisi Longmont dienkripsi, lalu lintas radio Longmont Fire disiarkan, kata Mares.
Di Boulder, aplikasi baru-baru ini melaporkan bahwa seorang petugas pemadam kebakaran dibawa ke rumah sakit setelah keadaan darurat medis di Boulder. Ringkasannya mengatakan “kondisi petugas pemadam kebakaran tidak diungkapkan.”
Tidak ada petugas pemadam kebakaran Boulder yang terluka hari itu, menurut Jamie Barker, juru bicara Penyelamat Kebakaran Boulder. Aplikasi tersebut tampaknya salah mengira “petugas pemadam kebakaran” – istilah yang biasa digunakan oleh petugas operator untuk menggambarkan petugas pemadam kebakaran yang menaiki ambulans untuk memberikan perawatan kepada pasien – sebagai “petugas pemadam kebakaran”.
“Ia mengambil informasi yang salah dengar, lalu merangkumnya dengan salah, lalu membuat asumsi,” kata Barker.
Pada hari Rabu, aplikasi tersebut memposting sekitar 60 laporan insiden di wilayah Longmont, termasuk ringkasan yang secara akurat merangkum audio pengiriman terkait yang menggambarkan keadaan darurat medis dan laporan penyerangan. Ketika kebakaran terjadi di median Colo. 119 sebelah timur Longmont pada hari Rabu, sebuah pos CrimeRadar secara akurat menggambarkan situasinya.
Ketika aplikasi menafsirkan audio pengiriman dengan benar, masih ada kemungkinan informasi tersebut tidak akurat atau tidak lengkap, karena komunikasi pengiriman bisa tidak lengkap dan tidak terverifikasi jika kru belum berada di lokasi, kata Barker.
“Pemindai bisa menjadi alat dan sumber daya yang luar biasa, namun pemindai juga hanya menceritakan separuh dari keseluruhan cerita,” kata Barker.
Peringatan palsu semacam itu bisa berbahaya, terutama jika perusahaan yang bertanggung jawab atas sistem tersebut menyatakannya sebagai peringatan yang akurat, menurut Casey Fiesler, profesor ilmu informasi di University of Colorado Boulder yang meneliti etika AI.
“Jika seseorang mendapat peringatan bahwa ada kebakaran, itu akan sangat mengecewakan,” katanya.
“Orang sering berpikir bahwa mesin tidak terlalu bias atau lebih akurat dibandingkan manusia, jadi karena alasan ini, menurut saya sangat penting bahwa sistem seperti ini memiliki penyangkalan yang kuat tentang bagaimana informasi mungkin tidak akurat,” tambah Fiesler.
CrimeRadar mengatakan dalam sebuah pernyataan bahwa pihaknya “terus meningkatkan” sistemnya untuk “memastikan presisi yang lebih tinggi.”
Ketika pengguna mengklik peringatan CrimeRadar untuk melihat rincian lebih lanjut, penafian diposting di atas ringkasan yang dihasilkan AI yang berbunyi, “Bukan laporan resmi. AI dihasilkan dari audio pengiriman publik. Verifikasi dengan sumber resmi.”
“Tujuan kami adalah membuat masyarakat lebih aman dengan membuat informasi darurat dapat diakses, itulah sebabnya penafian kami telah menjadi fitur inti sejak hari pertama,” tulis tim CrimeRadar dalam pernyataannya. “Ini berfungsi sebagai pengingat bagi pengguna bahwa pengiriman panggilan belum dikonfirmasi dan selalu mengandalkan sumber resmi untuk konfirmasi akhir.”
Informasi yang salah menyebar dengan cepat
Nextdoor, yang menggunakan Samdesk bertenaga AI untuk menghasilkan peringatan, juga telah mengirimkan informasi yang salah kepada komunitas Boulder County.
Musim gugur yang lalu, peringatan Nextdoor yang melaporkan adanya penembak aktif di fasilitas federal di Boulder dengan cepat menimbulkan kekhawatiran. Tangkapan layar dibagikan ke Reddit, pengiriman Boulder mulai menerima beberapa panggilan dari anggota komunitas yang peduli, dan polisi berusaha keras untuk mendapatkan informasi yang akurat, kata Dionne Waugh, juru bicara polisi Boulder.
Peringatan Nextdoor ternyata salah. AI telah mengambil informasi dari postingan online lama, kata Waugh.
Kepanikan yang ditimbulkan oleh peringatan palsu ini bisa sangat berbahaya di Boulder, yang telah dilanda tragedi berskala besar dalam beberapa tahun terakhir, termasuk penembakan King Soopers pada tahun 2021 dan, pada musim panas ini, serangan yang ditargetkan di Pearl Street.
“Setiap kali hal seperti itu terjadi, orang-orang akan kembali ke momen sebenarnya,” kata Waugh.
“Kami memahami betapa menyedihkannya peringatan palsu bagi warga, dan kami menyesali kekhawatiran yang ditimbulkan oleh insiden ini,” tulis juru bicara Nextdoor dalam sebuah pernyataan.
Perusahaan bekerja secara langsung dengan polisi Boulder dan Longmont setelah departemen tersebut menyatakan keprihatinannya pada akhir tahun 2025.
Peringatan di sebelah diproses melalui sistem peninjauan dan “ditambah dengan pengawasan manusia sesuai kebutuhan,” menurut pernyataan itu.
Aplikasi ini baru-baru ini menambahkan lapisan verifikasi tambahan untuk peringatan yang melibatkan insiden seperti penembakan massal dan kebakaran hutan, dan memberikan lembaga publik setempat akses ke peta peringatan sehingga para ahli dapat menandai atau memperbaiki ketidakakuratan dalam yurisdiksi mereka.
Nextdoor dan CrimeRadar mengatakan mereka menghapus postingan ketika ketidakakuratan teridentifikasi.
Waugh mengatakan menghapus postingan tidak menyelesaikan masalah karena tidak menjelaskan apakah sesuatu benar-benar terjadi.
Fiesler setuju. Mengoreksi misinformasi yang sudah menyebar bisa jadi sangat sulit, katanya, karena misinformasi menyebar lebih cepat daripada koreksi.
“Bahkan jika orang pertama memposting koreksi, hal itu tidak akan sampai ke semua orang yang melihatnya,” katanya.
Tempat memverifikasi informasi
Polisi dan pemadam kebakaran telah mendesak anggota masyarakat yang menggunakan CrimeRadar, Nextdoor, atau layanan serupa untuk memverifikasi informasi yang mereka lihat di platform ini.
“Ini mungkin berguna, ini bisa menjadi cara lain untuk menyebarkan informasi dengan cepat, tetapi Anda harus tahu bahwa Anda harus memverifikasinya di tempat lain,” kata Fiesler.
Waugh memperingatkan anggota masyarakat agar tidak bergantung pada layanan ini sama sekali.
“Mengingat ketidakakuratan perusahaan-perusahaan ini, saya tidak akan bergantung pada mereka,” katanya.
Sebaliknya, anggota masyarakat harus mendapatkan informasi mereka langsung dari departemen kepolisian atau dari media tradisional, kata Waugh.
“Informasi paling akurat dan terbaik akan selalu datang dari penegak hukum setempat atau pemadam kebakaran setempat,” kata Barker. “Menyenangkan mencoba menemukan jalan pintas menuju informasi tersebut melalui AI, tetapi jika Anda benar-benar ingin mengetahui 100% yakin bahwa apa yang Anda dengar adalah benar dan nyata, maka Anda harus pergi ke departemen untuk itu.”
