Mengembangkan komitmen kami untuk menyediakan AI yang bertanggung jawab

Oleh Lila Ibrahim Chief Operating Officer, Google DeepMind dan James Manyika

Senior Vice President, Research, Technology & Society

Hari ini kami mengumumkan langkah-langkah pengamanan AI yang baru untuk mencegah penyalahgunaan dan alat-alat baru yang menggunakan AI guna menjadikan pembelajaran lebih menarik dan mudah diakses.

Kami yakin bahwa daya transformatif AI dapat meningkatkan kualitas hidup dan menjadikan dunia lebih baik jika dimanfaatkan secara berani dan bertanggung jawab. Sekarang, riset dan produk kami sudah membantu orang-orang di seluruh dunia, dari aktivitas sehari-hari hingga inisiatif paling ambisius, produktif, dan kreatif mereka.

Bagi kami mengembangkan AI secara bertanggung jawab berarti memitigasi risikonya sambil memaksimalkan manfaatnya bagi umat manusia. Dalam hal ini, yang menjadi panduan kami adalah Prinsip AI kami, riset kami, serta masukan dari para ahli, pengguna, dan partner kami.

Mengembangkan AI agar bermanfaat bagi masyarakat dengan LearnLM

Setiap hari, miliaran orang menggunakan produk Google untuk belajar. AI generatif membuka cara-cara baru bagi kami untuk menjadikan pembelajaran lebih personal, bermanfaat, dan mudah diakses.

Hari ini kami mengumumkan LearnLM, rangkaian model AI generatif baru kami yang dikembangkan berdasarkan Gemini dan khusus didesain untuk pembelajaran. LearnLM mengintegrasikan ilmu pembelajaran dan prinsip-prinsip akademis, seperti membantu pengelolaan beban kognitif serta adaptasi terhadap sasaran, kebutuhan, dan motivasi siswa, ke dalam produk kami. Hasilnya adalah pengalaman belajar yang lebih disesuaikan dengan kebutuhan masing-masing individu.

LearnLM digunakan dalam berbagai fitur di produk-produk kami, seperti Gemini, Google Search, YouTube dan Google Classroom. Di aplikasi Gemini, Gem Learning coach (Pelatih belajar) yang baru akan menawarkan panduan belajar langkah demi langkah yang dirancang untuk memupuk pemahaman, bukan sekadar menjawab pertanyaan. Di aplikasi YouTube Android, Anda dapat berinteraksi dengan video edukasional dalam cara-cara baru, seperti mengajukan pertanyaan lanjutan atau memeriksa pemahaman Anda dengan kuis. Berkat kapabilitas konteks panjang model Gemini, fitur-fitur YouTube ini bahkan bisa digunakan untuk kuliah dan seminar yang panjang.

Kolaborasi tetaplah penting dalam mewujudkan sepenuhnya potensi AI generatif bagi komunitas pendidikan yang lebih luas. Kami bermitra dengan organisasi-organisasi pendidikan terkemuka seperti Columbia Teachers College, Arizona State University, NYU Tisch, Khan Academy untuk menguji dan memperbaiki model kami. Dengan demikian, kami dapat memperluas penerapan LearnLM di luar produk-produk kami (jika tertarik untuk menjadi partner kami, Anda dapat mendaftar di link ini). Kami juga bermitra dengan MIT RAISE dalam menyusun kursus online untuk menyediakan alat bagi para pendidik yang memungkinkan mereka menggunakan AI generatif di kelas dan area lain secara efektif.

Menggunakan konteks panjang untuk memudahkan akses pengetahuan

Salah satu alat eksperimental yang kami buat untuk menjadi pengetahuan lebih mudah diakses dan dicerna adalah Illuminate. Illuminate memanfaatkan kapabilitas konteks panjang Gemini 1.5 Pro untuk mengubah makalah penelitian yang panjang menjadi dialog lisan pendek.

Dalam beberapa menit saja, Illuminate dapat menghasilkan percakapan lisan dengan dua suara buatan AI yang menyajikan ringkasan dan diskusi singkat tentang poin-poin penting dari makalah penelitian. Jika ingin detail lebih lanjut, Anda dapat mengajukan pertanyaan lanjutan. Semua hasil audionya diberi watermark dengan SynthID dan makalah aslinya dikutip, sehingga Anda dapat dengan mudah melihat sendiri materi sumbernya secara lebih terperinci. Anda dapat mendaftar untuk mencobanya sekarang juga di labs.google.

Memperbaiki dan melindungi model kami dari penyalahgunaan

Meskipun terobosan-terobosan ini membantu mewujudkan misi kami dengan cara-cara baru, AI generatif masih merupakan teknologi baru yang disertai dengan risiko dan ketidakpastian yang akan timbul seiring berkembangnya teknologi ini dan penggunaannya.

Itulah mengapa kami yakin bahwa penting untuk melakukan pendekatan yang bertanggung jawab terhadap AI dengan dipandu oleh Prinsip AI kami. Kami secara rutin membagikan informasi tentang apa yang kami pelajari saat menerapkannya.

Hari ini kami ingin membagikan informasi tentang beberapa cara baru kami dalam memperbaiki model-model kami seperti Gemini dan melindunginya dari penyalahgunaan.

• AI-Assisted Red Teaming (Red Teaming yang Dibantu AI) dan masukan dari pakar. Untuk memperbaiki model kami, kami memadukan riset mutakhir dan keahlian manusia. Tahun ini, kami meningkatkan teknik red teaming (sebuah teknik terbukti di mana kami secara proaktif menguji kelemahan sistem kami sendiri dengan berusaha membobolnya) dengan teknik riset yang kami sebut sebagai “Red Teaming yang Dibantu AI”. Teknik ini memanfaatkan terobosan Google DeepMind dalam area game seperti AlphaGo, di mana kami melatih agen AI untuk saling bersaing guna memperluas cakupan kemampuan red teaming-nya. Kami sedang mengembangkan model AI dengan kemampuan ini untuk membantu mengatasi masalah input perintah yang bertujuan tidak benar serta meminimalkan output yang bermasalah. Kami juga memperbaiki model kami dengan masukan dari ribuan spesialis keamanan internal dan pakar independen dari berbagai sektor seperti akademis hingga sosial. Perpaduan antara analisis manusia dengan metode pengujian keamanan kami akan membantu model dan produk kami menjadi lebih akurat dan dapat diandalkan. Ini merupakan area riset yang khususnya penting bagi kami dengan munculnya berbagai kemajuan teknologi yang mengubah cara kita berinteraksi dengan AI.
• SynthID untuk teks dan video. Seiring makin realistisnya output model kami, kami juga harus mempertimbangkan kemungkinan penyalahgunaannya. Tahun lalu, kami memperkenalkan SynthID, teknologi yang menambahkan watermark tersembunyi pada gambar dan audio buatan AI sehingga lebih mudah diidentifikasi serta mencegahnya disalahgunakan. Hari ini, kami memperluas SynthID ke dua modalitas baru: teks dan video. Ini merupakan bagian dari investasi kami yang lebih luas dalam membantu masyarakat memahami asal-usul konten digital.
• Berkolaborasi dalam pengamanan. Kami berkomitmen untuk bekerja sama dengan ekosistem yang ada untuk membantu pihak-pihak lain memanfaatkan dan mengembangkan kemajuan yang kami raih. Dalam beberapa bulan lagi, kami akan menyediakan teknologi watermark teks SynthID sebagai open source melalui Responsible Generative AI Toolkit kami yang diperbarui. Kami juga adalah anggota Coalition for Content Provenance and Authenticity (C2PA). Kami bekerja sama dengan Adobe, Microsoft, startup-startup, dan berbagai pihak lainnya untuk membuat dan menerapkan standar yang meningkatkan transparansi media digital.

Membantu memecahkan masalah nyata

Sekarang, kemajuan AI kami sudah membantu orang-orang memecahkan masalah nyata dan mendorong terobosan ilmiah. Dalam beberapa minggu ini saja, kami telah mengumumkan tiga pencapaian ilmiah yang menarik:

• Lewat kerja sama dengan Harvard University, Tim Riset Google memublikasikan rekonstruksi 3D korteks manusia dalam resolusi tingkat sinapsis terbesar. Ini adalah kemajuan yang dapat mengubah pemahaman kita tentang cara kerja otak manusia.
• Kami mengumumkan AlphaFold 3, pembaruan terhadap model revolusioner kami yang kini mampu memprediksi struktur dan interaksi DNA, RNA, ligan, serta protein sehingga membantu mengubah pemahaman kita tentang dunia biologis dan penemuan obat.
• Kami memperkenalkan Med-Gemini, rangkaian model riset yang dibangun berdasarkan kemampuan model Gemini dalam logika tingkat lanjut, pemahaman multimodal, dan pemrosesan konteks panjang, yang membuka potensi untuk membantu para petugas medis mengerjakan tugas-tugas administratif seperti pembuatan laporan, analisis berbagai jenis data medis, serta prediksi risiko.

Ini belum termasuk dampak positif sosial yang kami lihat dari upaya seperti prediksi banjir dan Data Commons PBB untuk SDG (Self Development Goals/Tujuan Pembangunan Berkelanjutan). Bahkan, kami baru-baru ini menerbitkan sebuah laporan yang menyoroti semua cara pemanfaatan AI untuk mendorong progres bersama dunia dalam mencapai tujuan yang dirumuskan dalam SDG. Ini hanyalah awalnya, kami antusias menantikan perkembangan selanjutnya dan pencapaian yang dapat kita raih bersama-sama.