Google Membangun Kecerdasan Buatan Untuk Melawan Cyberbullying

Google sedang membuat sistem penangkal cyberbullying dan penghinaan di dunia maya secara otomatis, Proyek ambisius ini mungkin bukan suatu terobosan yang luar biasa dalam hal Artificial Intelligence (kecerdasan buatan),...

373 0
373 0

Google sedang membuat sistem penangkal cyberbullying dan penghinaan di dunia maya secara otomatis, Proyek ambisius ini mungkin bukan suatu terobosan yang luar biasa dalam hal Artificial Intelligence (kecerdasan buatan), namun tujuannya justru untuk memperbaiki permasalahan besar dan klasik di dunia maya, yaitu Trolling.

Trolling sudah menjadi budaya yang mengakar di dunia maya yang sangat mudah kita temui. Di berbagai media sosial, website, blog dan lain sebagainya yang bahkan bisa membuat netizen offline dari dunia maya, lebih parahnya lagi hingga depresi. Penguasa yang represif, kampanye politik, dan berbagai pihak lain tidak sedikit yang menggunakan internet untuk menunjukkan eksistensinya dengan cara apapun.

Saat ini Google menggunakan sistem kecerdasan buatan untuk menghabisi para pelaku trolling. Sebuah anak perusahaan Google, Jigsaw, merilis sepaket software yang disebut Conversation AI. Tim Jigsaw mendesain software tersebut untuk menandai cyberbullying dan juga memblokir konten internet yang tajam secara otomatis. Software tersebut akan menilai segala kata-kata hinaan yang kasar dengan skor tertinggi hingga 100. Pihak Jigsaw mengklaim bahwa akurasi Conversation AI jauh lebih baik dibanding segala macam software filter keyword dan lebih cepat dibanding moderator manual dengan tenaga manusia, namun pihaknya saat ini terus mengembangkannya untuk menekan kesalahan deteksi dan tidak mengganggu hak kebebasan berpendapat. Google menyatakan bahwa teknologi tersebut saat ini memiliki tingkat akurasi kepastian hingga 92% dengan kesalahan deteksi 10%. SIstem tersebut bahkan bisa menghapus konten-konten yang mengandung kata-kata kasar dan berbahaya.

Jigsaw telah bekerjasama dengan The New York Times dimana mereka mempu mengakses hingga 17 juta komentar dari berbagai berita. Tidak hanya itu saja, mereka juga bekerjasama dengan Wikimedia Foundation untuk membantu algoritmanya dalam membedakan antara senda gurau dengan penghinaan.

Terinspirasi dari video game multiplayer online

Ide dan inspirasi software tersebut berasal dari sebuah game online League of Legends yang sudah mulai menggunakan kecerdasan buatan untuk memblokir pemain yang menggunakan kata-kata umpatan dan celaan kasar. Laporan menunjukkan bahwa 92% pemain berhasil mengubah kebiasaan buruknya setelah mendapatkan peringatan otomatis. Jigsaw ingin mengaplikasikannya pada dunia maya secara umum.

Teknologi tersebut akan dibuat open-source untuk membantu platform media sosial dan situs web lainnya untuk menekan jumlah konten trolling sedini mungkin. Para developer dan pakar IT sudah lama mencoba berbagai cara untuk menekan cyberbullying dan trolling, namun metode lama dengan cara menandai manual dan menunggu review dari admin terbukti tidak efektif. Jika Jigsaw mampu membuat AI tersebut bekerja seakurat sistem klasik manual, maka Coversation AI mampu menjadi pionir revolusi untuk mengakhiri era sisi tergelap dari dunia maya.

In this article

Join the Conversation


Lewat ke baris perkakas