Pertama-tama, John Pasmore sangat antusias tentang ChatGPT. Pendiri serial ini telah berada di ruang kecerdasan buatan setidaknya sejak 2008. Dia mengingat hari-hari ketika para ahli menyatakan bahwa dibutuhkan beberapa dekade sebelum dunia melihat sesuatu seperti ChatGPT. Cepat maju — hari itu kini telah tiba.
Tetapi ada satu kekurangan.
ChatGPT, salah satu alat kecerdasan buatan terkuat di dunia, mengalami kesulitan dalam nuansa budaya. Hal ini cukup menjengkelkan bagi seseorang berkulit hitam seperti Pasmore. Bahkan, kelalaian ini telah membangkitkan amarah banyak orang berkulit hitam yang sudah tidak melihat diri mereka secara tepat di algoritma yang diklaim suatu hari akan menyelamatkan dunia. ChatGPT saat ini menawarkan jawaban yang terlalu umum untuk pertanyaan tertentu yang ditujukan pada komunitas tertentu, karena pelatihannya nampak berbasis Eurocentric dan Barat dalam kecenderungannya. Ini tidak unik — kebanyakan model KI tidak dibangun dengan memikirkan orang berkulit warna.
Namun banyak pendiri berwarna hitam bersikeras untuk tidak tertinggal.
Banyak chatbot dan versi ChatGPT yang dimiliki oleh para berkulit hitam telah muncul dalam setahun terakhir untuk melayani khususnya komunitas berkulit hitam dan cokelat, karena para pendiri berkulit hitam, seperti Pasmore, berusaha memanfaatkan celah budaya OpenAI.
“Jika Anda bertanya pada model secara umum siapa beberapa seniman paling penting dalam budaya kita, ia akan memberi Anda Leonardo da Vinci dan Michelangelo,” kata Pasmore tentang ChatGPT. “Ia tidak akan mengatakan apa pun tentang India atau Cina, Afrika, atau bahkan orang Afrika-Amerika, karena ia memiliki bias yang difokuskan pada lintasan sejarah Eropa.”
Jadi Pasmore meluncurkan Latimer.AI, sebuah model bahasa untuk memberikan jawaban yang disesuaikan untuk mencerminkan pengalaman orang berkulit hitam dan cokelat. Erin Reddick memulai ChatBlackGPT, sebuah chatbot yang juga berpusat pada komunitas berkulit hitam dan cokelat. Secara global ada Spark Plug berbasis Kanada, yang menjadi alternatif untuk ChatGPT bagi siswa berkulit hitam dan cokelat. Afrika juga melihat inovasi yang luas dalam ruang ini, dengan model bahasa yang muncul untuk melayani lebih dari 2.000 bahasa dan dialek yang digunakan di benua itu yang masih diabaikan oleh model KI Barat.
“Kita adalah pemelihara cerita dan pengalaman kita sendiri,” ujar Tamar Huggins, pendiri Spark Plug, kepada TechCrunch. “Kita perlu menciptakan sistem dan infrastruktur, yang kita miliki dan kendalikan, untuk memastikan data kita tetap milik kita.”
KI yang Dipersonalisasi Telah Tiba
Model KI yang umum tidak dapat dengan mudah menangkap pengalaman orang Amerika berkulit hitam karena banyak aspek budaya tersebut tidak ada di internet. Algoritma saat ini mencari sumber dari internet, namun banyak tradisi dan dialek dalam budaya Amerika berkulit hitam berasal dari lisan atau langsung, meninggalkan kesenjangan dalam pemahaman yang akan dimiliki model KI tentang komunitas versus nuansa apa yang sebenarnya terjadi.
Inilah salah satu alasan mengapa Pasmore mencoba menggunakan sumber seperti Amsterdam News, salah satu surat kabar berkulit hitam tertua di Amerika Serikat, saat membangun Latimer.AI, fokus pada akurasi daripada pelatihan pada data yang diambil dari pengguna internet. Dengan melakukan ini, ia mulai melihat perbedaan antara modelnya dan ChatGPT.
Diingatinya ketika orang bertanya pada ChatGPT tentang Underground Railroad, jalur yang digunakan budak Amerika berkulit hitam untuk bepergian ke negara bagian Utara untuk melarikan diri dari perbudakan. Model ChatGPT akan menyebutkan budak melarikan diri, sedangkan Latimer.AI-nya menyesuaikan kata-kata, merujuk kepada “orang yang disandera” atau “orang yang mencari kebebasan,” yang lebih sesuai dengan apa yang telah menjadi lebih peka secara sosial saat membicarakan mantan budak.
“Ada beberapa perbedaan yang halus dalam bahasa yang digunakan model karena data pelatihan, dan model itu sendiri hanya memikirkan orang berkulit hitam dan cokelat,” kata Pasmore.
Sementara itu, ChatBlackGPT milik Erin Reddick masih dalam mode beta dengan rencana peluncuran pada Juneteenth. Produknya berfungsi sesuai dengan namanya: sebuah chatbot di mana orang dapat mengajukan pertanyaan dan menerima tanggapan yang disesuaikan tentang budaya hitam. “Inti dari apa yang kita lakukan adalah didorong oleh komunitas yang sejati,” kata Reddick.
Ia sedang dalam proses membangun alat tersebut, bertanya pada pengguna bagaimana mereka ingin tampilan dan perilaku alat itu. Ia juga bermitra dengan institusi pendidikan seperti perguruan tinggi dan universitas bersejarah Amerika berkulit hitam (HBCU) untuk bekerja dengan siswa baik untuk mengajar maupun membantu melatih algoritmanya. Ia mengatakan bahwa ia ingin “memberikan kesempatan belajar yang beragam bagi orang-orang berkulit hitam dan cokelat untuk memiliki ruang aman untuk menjelajahi KI.”
“Algoritma memprioritaskan sumber informasi hitam sehingga ia dapat berbicara tentang tubuh pengetahuan yang lebih langsung relatif daripada pengalaman rata-rata Anda,” kata dia, menambahkan bahwa, seperti produk Pasmore, pada dasarnya siapa pun dapat menggunakannya.
Tamar Huggins membangun Spark Plug untuk juga menawarkan pengalaman yang lebih dikustomisasi bagi komunitas berkulit hitam dan cokelat. Platformnya menerjemahkan materi pendidikan ke dalam Bahasa Inggris Vernakular Afro-Amerika (AAVE), dialek etnis yang terkait dengan komunitas Amerika hitam. Dialek itu secara tradisional disampaikan secara lisan dan langsung daripada dipelajari dan disusun seperti bahasa Inggris standar, berarti ketepatan model KI (atau orang) yang mempelajarinya dari internet saja akan menurun dalam presisi. Menangkap AAVE dengan akurat penting, tidak hanya agar chatbot akan merespons menggunakannya, tetapi juga agar siswa lebih mudah menulis perintah yang akan membuat KI mengembalikan hasil yang mereka butuhkan.
“Dengan menciptakan konten yang resonan dengan siswa hitam, kami memastikan mereka melihat diri mereka dalam pendidikan, yang penting bagi keterlibatan tinggi dan keberhasilan akademik,” kata Huggins. “Ketika diberi kesempatan, Big Tech hampir selalu akan memprioritaskan keuntungan daripada orang. Jadi kami menciptakan jalur kami sendiri dalam ruang KI.”
Huggins melatih algoritmanya terhadap tulisan penulis hitam dari Harlem Renaissance, penulis hitam dalam bidang pendidikan, dan bahkan kata-kata remaja perempuannya untuk menangkap inti dari AAVE. Huggins juga bekerja dengan pendidik, ahli linguistik, dan ahli budaya untuk meninjau dan memvalidasi keluaran Spark Plug. Produknya juga tidak dibangun di atas ChatGPT. Ini adalah modelnya sendiri, berarti pengguna mengontrol data mereka sendiri.
Pasmore juga memiliki rencana untuk membangun model dasar terpisah untuk Latimer.AI-nya. Saat ini, ia sedang bekerja untuk memperluas perusahaannya ke sekolah, terutama HBCU, karena semakin banyak siswa mengandalkan ChatGPT setiap hari untuk menyelesaikan pekerjaan mereka.
“Ini adalah sahabat KI yang lebih baik untuk banyak anak berkulit hitam dan cokelat yang ditugaskan melakukan banyak hal,” katanya.
Menghubungkan Diaspora
Afrika melihat dirinya diabaikan dalam gerakan KI saat ini. Sebagai contoh, hanya 0.77% dari total jurnal KI dunia berasal dari Afrika sub-Sahara, dibandingkan dengan Asia Timur dan Amerika Utara masing-masing di 47.1% dan 11.6%, menurut Laporan Indeks Kecerdasan Buatan 2023. Dilihat dari segi populasi, dibandingkan dengan Amerika Utara, Afrika menyusun sekitar 17% populasi dunia, dibandingkan dengan hanya 7% di Amerika Utara. Ketika saatnya untuk mencari informasi dan ahli tentang KI, kemungkinan penelitian dari sub-Sahara digunakan cukup rendah, yang dapat mempengaruhi perkembangan alat KI global.
Sementara Afrika melihat banyak pembangunan dalam menciptakan model bahasa yang lebih inklusif yang lebih baik melayani diaspora hitam, saat ini model KI dari ChatGPT hingga Gemini tidak dapat sepenuhnya mendukung lebih dari 2.000 bahasa yang digunakan di seluruh Afrika.
Yinka Iyinolakan menciptakan CDIAL.AI untuk mengatasi hal ini. CDIAL.AI adalah chatbot yang dapat berbicara dan memahami hampir semua bahasa dan dialek di Afrika, dengan fokus khusus pada pola bicara daripada teks.
Iyinolakan menegaskan kepada TechCrunch semangat yang sama seperti banyak orang Amerika berkulit hitam — bahwa model KI dasar diambil terutama dari data internet dan dari bahasa yang paling umum digunakan. Seperti budaya keturunan Afrika-Amerika, banyak bahasa dan tradisinya yang tidak hadir di internet, karena merupakan budaya yang secara historis disampaikan lisan daripada dalam bentuk tertulis. Ini berarti model KI tidak memiliki informasi yang cukup tentang budaya Afrika untuk melatih diri, sehingga meninggalkan kesenjangan pengetahuan.
Untuk CDIAL.AI, Iyinolakan melibatkan lebih dari 1.200 penutur asli dan ahli bahasa di seluruh Afrika untuk mengumpulkan pengetahuan dan wawasan untuk membangun apa yang ia sebut “model bahasa berukuran besar pertama di dunia yang berbasis suara-pertama multi-bahasa.” Perusahaan berencana untuk memperluas dalam 12 bulan ke depan untuk termasuk lebih banyak bahasa dan membangun model untuk mendukung teks, suara, dan gambar.
Ia tidak sendirian di sini. Google baru-baru ini memberikan hibah sebesar $1,4 juta kepada Jacaranda Health yang berbasis di Kenya untuk memperluas layanan pembelajarannya sehingga bisa bekerja dalam lebih banyak bahasa Afrika dan Intron Health baru saja mengumpulkan beberapa juta dolar untuk memperluas pengenalan ucapan klinisnya untuk lebih dari 200 aksen yang digunakan di Afrika.
“Silicon Valley ingin percaya bahwa itu adalah segalanya untuk kecerdasan buatan,” kata Iyinolakan. “Namun, untuk ‘mengerti’ kecerdasan buatan, yang menjadi bintang utara semua perusahaan tersebut, mereka perlu menyertakan sepertiga pengetahuan dunia.”
Membuat Kemajuan
Menghadapi chatbot KI bukanlah satu-satunya inovasi yang hendak ditangani oleh para pendiri berkulit hitam.
Steve Jones dan DeSean Brown memulai perusahaan pocstock untuk menciptakan gambar stok orang berwarna karena, selama beberapa dekade, ada kekurangan minoritas yang diwakili dalam stok gambar. Inilah salah satu alasan mengapa model saat ini mayoritas menghasilkan gambar orang kulit putih ketika pengguna memintanya untuk menghasilkan gambar siapa pun mulai dari dokter hingga penyanyi pop.
“Semua platform dan alat seharusnya dilatih dari data yang lengkap, inklusif secara rasial, dan akurat budaya, jika tidak kita akan [memperpetuasi] masalah bias yang saat ini dihadapi masyarakat kita,” kata Jones kepada TechCrunch. Untuk mengatasi ini, pocstock telah menghabiskan lima tahun terakhir untuk mengumpulkan data keragaman dan menciptakan sistem penandaan visual sendiri yang berkontribusi pada basis data yang digunakan bisnis untuk membantu melatih model KI mereka agar dapat menghasilkan citra yang lebih inklusif.
Beberapa perbaikan terjadi, meskipun. Jones mengatakan bahwa ia telah melihat perusahaan stok gambar yang lebih besar yang menyumbangkan kepada perusahaan KI mengambil langkah-langkah lebih besar untuk meningkatkan keragaman konten mereka. Pasmore juga melihat masa depan yang lebih cerah, mengatakan bahwa KI yang dipersonalisasi adalah masa depan dan semakin model KI berinteraksi dengan penggunanya, semakin banyak ia akan memahami keinginan dan kebutuhan spesifik seseorang, “yang, menurut saya, menghilangkan banyak bias.”
Bahkan mungkin ada tempat untuk model KI yang lebih spesifik budaya di masa depan, terutama karena lebih banyak alternatif yang dimiliki orang berkulit hitam terus muncul. Sesudah semuanya, dunia ini luas dan lebih nuansa — tidak ada gunanya mencoba memasukkannya dalam satu kotak hitam.
“Harapan saya adalah bahwa lebih banyak pendiri berwarna terlibat dalam mengembangkan platform KI mereka sendiri atau menciptakan pekerjaan terkait KI baru sedini mungkin dalam ledakan ekonomi berikutnya,” kata Jones. “KI akan menciptakan triliuner, dan saya akan senang melihat orang berkulit hitam mengambil posisi sebagai produsen bukan hanya konsumen.”
Artikel ini telah diperbarui untuk mencerminkan bahwa Spark Plug menggunakan model dasar mereka sendiri, dan deskripsi seputar Latimer.AI. Juga bahwa DeSean Brown membantu mendirikan pocstock.
