Artificial Intelligence (AGI) adalah istilah yang mengacu pada sistem AI yang dapat melakukan tugas apa pun yang dapat dilakukan manusia, atau bahkan lebih baik. Mencapai AGI adalah salah satu tujuan paling ambisius dan kontroversial di bidang AI, karena dapat memiliki implikasi mendalam bagi masa depan umat manusia. OpenAI, perusahaan riset AI di balik ChatGPT, baru-baru ini menerbitkan postingan blog yang memberi kami gambaran tentang bagaimana perusahaan akan mengatasi tantangan dalam membuat dan mengelola AGI.
OpenAI ingin AGI “memberdayakan umat manusia untuk mengembangkan alam semesta sepenuhnya”. Dengan AGI, terdapat potensi risiko dan ketidakpastian seperti penyalahgunaan, kecelakaan, dan bahkan gangguan sosial. Untuk mengatasi hal ini, OpenAI telah mengusulkan seperangkat prinsip yang memandu kerjanya di AGI, diarahkan untuk jangka pendek –
- Menyebarkan dan belajar dari sistem AI yang kurang kuat di dunia nyata untuk mendapatkan pengalaman dan umpan balik
- Mendemokratisasi akses ke manfaat dan tata kelola AI
- Kembangkan teknik penyelarasan baru untuk memastikan sistem AI bertindak sejalan dengan nilai dan preferensi manusia
- Memperkuat institusi dunia untuk menyepakati batasan luas penggunaan dan regulasi AI
- Berbagi informasi tentang kemajuan AI dengan publik dan mencari masukan dari berbagai pemangku kepentingan
Pasti ada faktor lain yang akan membentuk bagaimana perkembangan AGI berdampak pada umat manusia. Faktor-faktor ini termasuk garis waktu (berapa lama waktu yang diperlukan untuk membuat AGI), kecepatan angkat (seberapa cepat AGI akan meningkat), koordinasi (seberapa baik aktor yang berbeda akan bekerja sama atau bersaing dalam mengembangkan AGI), dan keamanan (seberapa baik keselarasan AGI dengan tujuan manusia). OpenAI mengatakan bahwa garis waktu yang lebih pendek dan kecepatan lepas landas yang lebih lambat akan memungkinkan lebih banyak waktu untuk belajar, beradaptasi, dan berkoordinasi antara pemerintah, perusahaan, dan masyarakat umum untuk secara bertahap memahami apa yang terjadi dan merasakan keuntungan dan kerugian dari teknologi tersebut.
Meskipun demikian, OpenAI juga memperingatkan tentang fakta bahwa segala sesuatunya tidak dapat diprediksi dan bahkan perusahaan itu sendiri tidak memiliki semua jawaban dan solusi untuk kemungkinan masalah di masa mendatang, terutama setelah AGI menjadi arus utama. Perusahaan berharap dalam jangka panjang, percakapan tentang bagaimana mengatur sistem ini, bagaimana mendistribusikan keuntungannya secara adil, dan bagaimana berbagi akses secara adil akan menjadi wajib.
OpenAI juga menekankan bagaimana struktur perusahaan selaras dengan misinya. Piagam perusahaan menguraikan prinsip dan tujuan untuk pengembangan AGI. Ini juga memiliki batasan pengembalian yang dapat diperoleh pemegang sahamnya, dan perusahaan sebenarnya diatur oleh dewan nirlaba yang mengawasi aktivitasnya. Dewan juga dapat mengganti kepentingan nirlaba apa pun jika bertentangan dengan misi perusahaan.
Anda dapat membaca lebih lanjut tentang bagaimana OpenAI merencanakan masa depan AGI dengan mengklik di sini.
Apakah Anda mendukung atau menentang gagasan AGI? Beri tahu kami pendapat Anda di bagian komentar di bawah.
