Dalam perlombaan untuk memimpin dunia di AI, AS baru saja mengambil kursi belakang. Rangkaian perintah eksekutif terbaru Presiden Donald Trump memperjelas bahwa pemerintahannya akan melakukan semua yang bisa dicegah untuk mencegah model AI di masa depan dari mempertimbangkan segala bentuk keanekaragaman, keadilan, dan inklusi.
Ini termasuk prinsip -prinsip inti seperti “bias tidak sadar”, “intersectionality”, dan “rasisme sistemik”. Dengan kata lain, Trump ingin AI buatan Amerika untuk menutup mata terhadap sejarah, yang seharusnya membuat semuanya sangat bodoh.
Chatbots generatif seperti chatgpt, Gemini, Claude AI, kebingungan, dan yang lainnya semuanya dilatih pada petak data yang luas, sering ditarik dari internet, tetapi bagaimana mereka menafsirkan bahwa data juga dipijat oleh pengembang.
Ketika orang -orang mulai berinteraksi dengan LLM pertama ini, mereka segera mengakui bahwa, karena bias yang melekat di internet dan karena begitu banyak model dikembangkan oleh pria kulit putih (pada tahun 2020, 71% dari semua pengembang adalah laki -laki dan kira -kira setengah dari semua pengembang berkulit putih) bahwa pandangan dunia tentang AIS dan output yang dihasilkan oleh setiap prompt yang diberikan mencerminkan bahwa yang terkadang terbatas dari titik -titik yang terkadang terbatas dan yang terkadang terbatas dari yang terkadang terbatas dari yang terkadang secara online.
Ada upaya untuk mengubah lintasan itu, dan bertepatan dengan munculnya DEI (keanekaragaman, kesetaraan, dan inklusi), upaya berbasis luas di seluruh perusahaan Amerika untuk mempekerjakan tenaga kerja yang lebih beragam. Ini secara alami akan mencakup pengembang AI dan model yang dihasilkan dan pekerjaan algoritma mereka harus berarti bahwa AI generatif modern lebih mencerminkan dunia nyata.
Itu, tentu saja, bukanlah dunia yang diinginkan oleh administrasi Trump dalam AI yang dibangun AS. Perintah eksekutif menggambarkan Dei sebagai ideologi “meresap dan destruktif”.
Apa yang terjadi selanjutnya
Trump dan perusahaan tidak dapat menentukan bagaimana perusahaan teknologi membangun model AI mereka, tetapi, seperti yang telah dicatat orang lain, Google, Meta, Openai, dan yang lainnya semuanya berusaha untuk mendapatkan kontrak AI besar dengan pemerintah. Berdasarkan perintah eksekutif ini, pemerintah AS tidak akan membeli atau mempromosikan AI apa pun “yang mengorbankan kebenaran dan keakuratan terhadap agenda ideologis.”
“Kebenaran,” itu mewakili sepotong kecil realitas Amerika. Jika administrasi Trump berhasil, model AI di masa depan bisa berada dalam kegelapan, misalnya, bagian -bagian penting dari sejarah Amerika.
Critical Race Theory (CRT) melihat peran yang dimainkan rasisme dalam pendirian dan pembangunan AS. Ini mengakui bagaimana yang diperbudak membantu membangun Gedung Putih, Capitol AS, Smithsonian, dan institusi AS lainnya. Ia juga mengakui bagaimana rasisme sistemik telah membentuk peluang (atau ketiadaannya) bagi orang kulit berwarna.
Kecuali Anda hidup di bawah batu, Anda tahu bahwa administrasi Trump dan para pendukungnya di sekitar AS telah berjuang untuk membongkar kurikulum CRT dan menghapus penyebutan bagaimana perbudakan membentuk AS.
Namun, dalam kondisi mereka saat ini, AI masih tahu skornya.
Sampai hari ini, saya dapat kuis chatgpt tentang peran yang diperbudak dalam membangun AS, dan saya mendapatkan hasil yang agak rinci ini:
Ketika saya menanyai chatgpt pada sumbernya, itu memberi tahu saya:
“Sementara saya tidak menarik dari satu sumber, informasi yang saya bagikan didasarkan pada penelitian sejarah yang luas dan konsensus di antara para sejarawan. Di bawah ini adalah daftar Sumber yang memiliki reputasi baik dan karya ilmiah yang mendukung setiap titik yang saya buat. Referensi ini termasuk buku -buku akademik, arsip museum, dan proyek -proyek universitas. “Di bawahnya, mencantumkan lebih dari selusin referensi.
Ketika saya bertanya kepada Gemini pertanyaan yang sama, itu memberi saya jawaban yang sama rinci.
Saya kemudian bertanya kepada Gemini dan chatgpt tentang “bias tidak sadar” dan keduanya mengakui bahwa itu menjadi masalah bagi AI, meskipun chatgpt mengoreksi saya, mencatat, “secara teknis, itu ‘bias algoritmik,’ yang berakar pada data dan desain daripada AI yang memiliki kesadaran.”
Chatgpt dan Gemini hanya mengetahui hal -hal ini karena mereka telah dilatih pada data yang mencakup referensi dan informasi historis ini. Detailnya membuat mereka lebih pintar, seperti yang sering dilakukan fakta. Tetapi bagi Trump dan perusahaan, fakta adalah hal -hal yang keras kepala. Mereka tidak dapat diubah atau terdistorsi, jangan sampai mereka bukan lagi fakta.
The Great Unlearning
Jika administrasi Trump dapat memaksa potensi mitra AI AS untuk menghapus referensi ke bias, rasisme institusional, dan intersectionality, akan ada titik buta yang signifikan dalam model AI yang dibangun AS. Ini juga lereng yang licin. Saya membayangkan perintah eksekutif di masa depan yang menargetkan daftar “ideologi” baru yang lebih suka dilihat Trump dihapus dari AI generatif.
Itu lebih dari sekadar frustrasi. Katakanlah, misalnya, seseorang mencoba membangun model ekonomi berdasarkan penelitian yang dilakukan melalui chatgpt atau Gemini, dan data historis yang berkaitan dengan komunitas kulit berwarna ditekan atau dihapus. Tren -tren itu tidak akan dimasukkan dalam model ekonomi, yang bisa berarti hasilnya salah.
Dapat dikatakan bahwa model AI yang dibangun di luar AS tanpa batasan atau imposisi ini mungkin lebih cerdas. Memang, orang -orang dari Cina sudah memiliki titik buta yang signifikan dalam hal sejarah Tiongkok dan pelanggaran partai Komunis.
Saya selalu berpikir bahwa AI yang dibuat di Amerika akan tidak ternoda oleh penyensoran dan penyaringan seperti itu, bahwa pemahaman kita tentang bias lama akan membantu kita membangun model yang lebih baik, lebih murni, yang hanya mengandalkan fakta dan data dan bukan satu orang atau interpretasi kelompok tentang peristiwa dan tren.
Namun, itu tidak akan terjadi, jika perusahaan teknologi AS tunduk pada perintah eksekutif ini dan mulai memproduksi model yang disaring liar yang melihat kenyataan melalui prisma bias, rasisme, dan ketidakadilan.
Anda mungkin juga suka
Source link
