DI YOGYAKARTA — Kasus ini bermula ketika algoritma AI Overviews Google secara keliru menghubungkan dua penerbit asal Munich dengan praktik penipuan, jebakan berlangganan, dan praktik bisnis yang mencurigakan. Sistem AI tersebut mencampuradukkan informasi dari dua entitas yang sama sekali berbeda dan menciptakan koneksi yang tidak ada di sumber mana pun.
Dalam ringkasan yang dihasilkan, AI Overviews dengan percaya diri menyatakan bahwa salah satu penerbit "dikenal karena praktik bisnis yang meragukan." Ringkasan itu bahkan menyusun struktur sendiri dengan poin-poin bahaya dan tips untuk pengguna, seolah-olah informasi tersebut benar adanya.
Menurut laporan The Decoder, Jerman memiliki undang-undang yang melindungi operator mesin pencari dari tanggung jawab konten pihak ketiga. Namun, pengadilan menilai perlindungan ini tidak berlaku untuk AI Overviews karena fitur ini dianggap menciptakan pernyataan "independen, baru, dan substantif" dengan mengevaluasi serta menggabungkan konten dari berbagai situs.
Pengadilan menegaskan bahwa Google sebagai mesin pencari tidak bertanggung jawab langsung karena hanya membuat konten pihak ketiga bisa ditemukan. Sebaliknya, Google sebagai operator AI Overviews bertanggung jawab penuh karena fitur ini menulis ulang informasi "dengan kata-katanya sendiri dan sesuai strukturnya sendiri."
Dalam sidang, Google berargumen bahwa pengguna bisa memeriksa sumber yang ditautkan untuk memverifikasi kebenaran ringkasan AI. Google juga menyebut bahwa pengguna seharusnya tahu "informasi yang dihasilkan AI tidak boleh dipercaya begitu saja."
Argumen ini menjadi ironis mengingat studi Pew Research Center menemukan bahwa hanya satu persen pengguna yang mengklik tautan sumber setelah membaca ringkasan AI. Studi lain bahkan menunjukkan bahwa pengguna cenderung lebih jarang mengklik tautan ketika ringkasan AI muncul di hasil pencarian.
Seberapa parah masalah akurasi AI Overviews? Sebuah studi yang dilaporkan The New York Times menemukan bahwa ringkasan AI salah sekitar sembilan persen dari waktu ke waktu. Angka ini mungkin terdengar kecil, namun skalanya menjadi berbeda jika melihat volume penggunaan.
Google baru-baru ini mengumumkan bahwa 2 miliar orang berinteraksi dengan AI Overviews setiap bulan. Dengan 16,5 miliar pencarian Google per hari, perhitungan kasar menunjukkan bahwa lebih dari 2 miliar kueri menghasilkan informasi yang salah setiap tahunnya.
Masalahnya tidak berhenti pada akurasi. Studi lain menemukan bahwa 56 persen jawaban yang benar sekalipun tidak bisa diverifikasi melalui sumber yang ditautkan. Artinya, pengguna hampir tidak punya cara nyata untuk memeriksa kebenaran informasi yang disajikan AI.
Para penerbit telah mengirimkan surat penghentian dan penghentian (cease-and-desist) kepada Google, namun mereka mengklaim perusahaan tidak merespons secara memadai. Pengadilan Regional Munich kemudian mengeluarkan perintah sementara yang melarang Google menyebarkan informasi palsu tentang kedua perusahaan tersebut.
Bagi pengguna yang ingin menghindari fitur AI Overviews, ada trik sederhana: tambahkan "-ai" di awal setiap kueri pencarian Google. Fitur ini akan menonaktifkan ringkasan AI dan menampilkan hasil pencarian tradisional.