Poin penting
- Reuters dan mitra berhasil mereproduksi akses pesan Signal melalui izin perangkat yang luas.
- Meta menyebut banyak pesan aneh sebagai halusinasi; kebocoran lintas akun belum terbukti.
- Pengujian tidak berhasil mereproduksi perilaku itu pada iPhone.
Agen AI Muse milik Meta kembali mendapat sorotan setelah investigasi Reuters yang terbit pada 18 November mendokumentasikan keluhan karyawan tentang tindakan tak terduga dan mereproduksi cara agen tersebut dapat membaca pesan Signal, aplikasi pesan terenkripsi. Temuan itu menimbulkan pertanyaan tentang perbedaan antara izin sistem operasi dan akses yang diyakini pengguna telah mereka berikan kepada layanan AI tertentu.
Apa yang dibuktikan investigasi
Reuters meninjau lebih dari dua lusin laporan internal mengenai perilaku Muse yang tidak diinginkan. Karyawan melaporkan balasan tanpa diminta yang menyinggung saldo keuangan asing, urusan belanja, dan persoalan keluarga. Seorang pekerja melaporkan pemesanan Airbnb tanpa izin. Ini adalah laporan dalam kanal umpan balik internal, bukan bukti independen bahwa data pribadi milik pengguna lain benar-benar dipindahkan.
Temuan teknis yang lebih kuat berkaitan dengan Signal. Bersama staf Signal dan AI Now Institute, Reuters mereproduksi akses ke teks pesan Signal pada Android melalui izin notifikasi dan pada macOS melalui fitur aksesibilitas serta tangkapan layar. Pengguna belum tentu menghubungkan Signal melalui konektor khusus Muse. Reuters menyebut pengujian yang sama tidak berhasil mereproduksi perilaku tersebut pada iPhone.
Enkripsi ujung-ke-ujung melindungi pesan selama pengiriman dan dari akses penyedia layanan pesan, tetapi tidak otomatis mencegah perangkat lunak dengan izin memadai membaca konten yang tampil di perangkat atau notifikasi. Perbedaan ini penting: investigasi tersebut tidak membuktikan bahwa enkripsi Signal berhasil dibobol.
Tanggapan Meta dan pertanyaan yang belum terjawab
Juru bicara Meta Daniel Roberts menyebut contoh-contoh itu insiden terisolasi dan mengatakan perusahaan melakukan pengujian serta memperbarui perlindungan. Menurutnya, Muse memerlukan izin perangkat untuk bekerja atas nama pengguna, sementara banyak percakapan yang tampak tertukar sebenarnya merupakan informasi karangan AI atau halusinasi.
Reuters tidak dapat memastikan apakah saldo dan rincian sensitif yang tidak dikenal itu benar-benar milik pengguna lain atau diciptakan model. Karena itu, terlalu dini menyebut setiap contoh sebagai kebocoran data lintas akun yang telah terbukti. Namun, akses ke teks pesan yang berhasil direproduksi merupakan persoalan tersendiri dan konkret mengenai cakupan izin.
Mengapa izin perangkat penting
Agen pribadi menjanjikan kemampuan memesan layanan, mengirim pesan, dan menjalankan aplikasi. Untuk melakukannya, agen mungkin meminta izin notifikasi, aksesibilitas, atau pembacaan layar yang luas. Izin tersebut dapat membuka informasi di luar layanan yang sebenarnya ingin dikelola pengguna. Pengaturan koneksi dalam aplikasi tidak selalu sama dengan izin pada tingkat sistem operasi.
Laporan Reuters juga menjelaskan bahwa Apple memperketat salah satu jalur akses di macOS, sementara pengelola platform mempertimbangkan kontrol tambahan. Pertanyaan kebijakan yang lebih luas adalah apakah penyedia agen harus meminta persetujuan yang lebih rinci dan mudah dipahami sebelum membaca komunikasi serta bertindak atas nama pengguna.
Hal yang perlu diperhatikan pengguna dan regulator
Pengguna dapat meninjau izin notifikasi dan aksesibilitas, memutus integrasi yang tidak diperlukan, serta mewajibkan konfirmasi eksplisit untuk pembelian atau pemesanan. Langkah-langkah itu mengurangi paparan risiko, tetapi tidak menjamin agen bebas dari kesalahan.
Persoalan yang belum terjawab adalah seberapa sering kegagalan tersebut terjadi, apakah benar ada pengungkapan data lintas akun, dan apakah kontrol yang diperbarui mencegah pengulangan. Penjelasan Meta dan hasil pengujian independen perlu dinilai secara terpisah, bukan menganggap salah satunya telah menjelaskan semua insiden.




