Awal bulan ini, Google mengumumkan rencana untuk meluncurkan Bard, chatbot AI yang dirancang untuk membantu pengguna menemukan informasi dengan model bahasa alami. Microsoft juga mengumumkan pencarian Bing baru, dengan chatbotnya sendiri yang menggabungkan teknologi dari Microsoft dengan teknologi dari OpenAI, perusahaan di balik ChatGPT.
Namun, salah satu aspek dari semua teknologi chatbot ini yang tidak banyak dibicarakan oleh perusahaan-perusahaan ini adalah biaya pengoperasian. Sebuah laporan baru dari Reuters menawarkan lebih banyak informasi tentang bagian dari teknologi baru ini. Dia berbicara dengan presiden Alphabet, John Hennessy, yang mengatakan bahwa menggunakan chatbot dengan model bahasa besar mungkin menghabiskan biaya hingga 10 kali lipat dari pencarian biasa.
kita harus memonetisasinya entah bagaimana di beberapa titik; biaya komputasi yang mengejutkan
—Sam Altman (@sama) 5 Desember 2022
Pada Desember 2022, tak lama setelah peluncuran ChatGPT, CEO OpenAI Sam Altman dinyatakan di Twitter, “biaya komputasi sangat mencengangkan.” Itulah mengapa ChatGPT Plus diluncurkan pada awal Februari, dengan lebih banyak fitur dan kinerja lebih cepat dengan harga $20 per bulan.
Reuters menggunakan laporan Morgan Stanley, yang memperkirakan biaya Google seperlima sen untuk setiap kali seseorang melakukan pencarian di layanannya pada tahun 2022. Namun, diperkirakan bahwa jika chatbot AI seperti Bard diterapkan, pencarian Google biaya dapat meningkat sebanyak $6 miliar pada tahun 2024. Itu dengan asumsi chatbot menangani setengah dari pencarian Google dengan jawaban 50 kata.
Jelas, alasan dari biaya yang lebih tinggi ini adalah karena dibutuhkan lebih banyak CPU untuk menghasilkan semua respons alami dari chatbot AI. Ini juga berarti biaya listrik yang lebih tinggi untuk menjaga agar server tersebut tetap berjalan.
Jadi apa yang bisa dilakukan untuk memotong biaya? Satu hal yang mungkin terjadi adalah bahwa chatbot ini akan menjadi lebih efisien dan karena itu lebih murah untuk dioperasikan, tetapi tidak jelas berapa banyak yang akan dilakukan untuk menurunkan harga. Solusi lain adalah Google dan Microsoft dapat menampilkan tautan ke iklan dalam respons chatbot, yang akan menghasilkan pendapatan yang akan mengimbangi biaya pengoperasian server ini.
Solusi lain adalah sesuatu yang sudah dilakukan ChatGPT; menawarkan layanan berlangganan di mana pengguna bisa mendapatkan respons chatbot yang lebih cepat dan lebih baik. Opsi ini kemungkinan akan menjadi pilihan terakhir Google dan Microsoft. Karena semakin banyak pengguna yang memanfaatkan layanan pencarian berbasis AI baru ini, mereka harus mencari tahu apakah biayanya akan cukup diturunkan bagi perusahaan-perusahaan ini untuk membuat mereka hemat biaya untuk keuntungan mereka.
