Kami mencintai mesin. Kami mengikuti sistem navigasi kami untuk pergi ke tempat-tempat, dan dengan hati-hati mengevaluasi rekomendasi tentang perjalanan, restoran, dan pasangan potensial untuk seumur hidup, di berbagai aplikasi dan situs web, karena kami tahu algoritma bisa menemukan peluang yang mungkin kami suka, lebih baik daripada yang bisa kami lakukan. Tetapi ketika datang ke keputusan akhir tentang kesehatan, pekerjaan kami, atau anak-anak kami, misalnya, apakah Anda akan mempercayai dan mempercayakan AI untuk bertindak atas nama Anda? Mungkin tidak.
Inilah sebabnya kami (FP) berbicara dengan Kavya Pearlman (KP), Pendiri & CEO di XRSI, yang merupakan kelompok Intelijen Keamanan X-Reality yang dia bentuk, untuk menangani dan mengurangi risiko dalam interaksi antara manusia dan teknologi eksponensial. Tentu saja, dia berbasis di Pantai Barat AS. Ini adalah pertukaran kami
FP. Apa yang terjadi dengan kemunculan AI?
KP. Selama bertahun-tahun, perusahaan teknologi telah menormalkan ide bahwa kita harus menyerahkan aset paling berharga kita, data kita, sebagai imbalan untuk kenyamanan digital. Kita selalu mengklik "terima" tanpa pernah bertanya. Sekarang, dengan munculnya perangkat yang dapat dikenakan dan sistem ๐๐-๐ข๐ง๐ญ๐๐ ๐ซ๐๐ญ๐๐, taruhannya jauh lebih tinggi. Ini bukan hanya tentang riwayat penelusuran atau data lokasi lagi. Perusahaan-perusahaan sedang mengumpulkan wawasan dari tubuh dan pikiran kita, dari ritme jantung dan aktivitas ๐๐ซ๐๐ข๐ง hingga ๐๐ฆ๐จ๐ญ๐ข๐จ๐ง๐๐ฅ ๐ฌ๐ญ๐๐ญ๐๐ฌ. Dan tetap saja, hampir tidak ada yang bertanya: ๐๐จ๐ฐ ๐๐จ ๐ฐ๐ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ญ๐ก๐๐ฌ๐ ๐ฌ๐ฒ๐ฌ๐ญ๐๐ฆ๐ฌ ๐ฐ๐ข๐ญ๐ก ๐จ๐ฎ๐ซ ๐ฆ๐จ๐ฌ๐ญ ๐ข๐ง๐ญ๐ข๐ฆ๐๐ญ๐ ๐๐๐ญ๐? ๐๐ก๐๐ญ ๐ฉ๐จ๐ฐ๐๐ซ ๐๐จ ๐ฐ๐ ๐ก๐๐ฏ๐ ๐ข๐ ๐ฐ๐ ๐๐จ๐งโ๐ญ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ญ๐ก๐๐ฆ? ๐๐ก๐๐ญ ๐๐ซ๐ ๐ญ๐ก๐ ๐ข๐ง๐๐ข๐๐๐ญ๐จ๐ซ๐ฌ ๐จ๐ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ฐ๐ ๐ฌ๐ก๐จ๐ฎ๐ฅ๐ ๐๐๐ฆ๐๐ง๐?
Ini bukan hanya tantangan teknis. Ini adalah tantangan pemerintahan dan pada intinya, merupakan pertanyaan tentang ๐ญ๐ซ๐ฎ๐ฌ๐ญ. Tanpa transparansi dan akuntabilitas, AI berisiko memperkuat bias tersembunyi, mengikis kepercayaan, dan meninggalkan orang tanpa jalan keluar ketika sistem melakukan kesalahan. ๐๐ณ๐ถ๐ด๐ต ๐ค๐ข๐ฏ๐ฏ๐ฐ๐ต ๐ฆ๐น๐ช๐ด๐ต ๐ช๐ง ๐ธ๐ฆ ๐ฅ๐ฐ๐ฏโ๐ต ๐ฌ๐ฏ๐ฐ๐ธ ๐ธ๐ฉ๐ข๐ต ๐ฅ๐ข๐ต๐ข ๐ช๐ด ๐ฃ๐ฆ๐ช๐ฏ๐จ ๐ค๐ฐ๐ญ๐ญ๐ฆ๐ค๐ต๐ฆ๐ฅ, ๐ฉ๐ฐ๐ธ ๐ช๐ตโ๐ด ๐ถ๐ด๐ฆ๐ฅ, ๐ฐ๐ณ ๐ฉ๐ฐ๐ธ ๐ฅ๐ฆ๐ค๐ช๐ด๐ช๐ฐ๐ฏ๐ด ๐ข๐ณ๐ฆ ๐ฎ๐ข๐ฅ๐ฆ.
FP. Bisakah Anda benar-benar membuat sistem yang melakukan itu, transparansi dan akuntabilitas?
KP. Anda bisa, jika Anda mau. Sebagai contoh, kami baru saja meluncurkan standar ๐๐๐ฌ๐ฉ๐จ๐ง๐ฌ๐ข๐๐ฅ๐ ๐๐๐ญ๐ ๐๐จ๐ฏ๐๐ซ๐ง๐๐ง๐๐ (๐๐๐). Ini memberikan pedoman konkret untuk AI dan teknologi yang dapat dikenakan, termasuk p๐จ๐ฅ๐ข๐๐ข๐๐ฌ ๐จ๐ง ๐ฐ๐ก๐๐ญ ๐๐๐ญ๐ ๐๐๐ง ๐๐ง๐ ๐๐๐ง๐ง๐จ๐ญ ๐๐ ๐ฎ๐ฌ๐๐, p๐ซ๐จ๐ญ๐จ๐๐จ๐ฅ๐ฌ ๐๐จ๐ซ ๐ฆ๐๐ง๐๐ ๐ข๐ง๐ ๐๐ ๐จ๐ฎ๐ญ๐ฉ๐ฎ๐ญ๐ฌ ๐๐ง๐ ๐๐ง๐ฌ๐ฎ๐ซ๐ข๐ง๐ ๐ญ๐ก๐๐ข๐ซ ๐ช๐ฎ๐๐ฅ๐ข๐ญ๐ฒ, e๐ฑ๐ฉ๐ฅ๐๐ข๐ง๐๐๐ข๐ฅ๐ข๐ญ๐ฒ ๐ฅ๐จ๐ ๐ฌ ๐ฌ๐จ ๐๐๐๐ข๐ฌ๐ข๐จ๐ง๐ฌ ๐๐ซ๐๐งโ๐ญ ๐ก๐ข๐๐๐๐ง ๐ข๐ง ๐ ๐๐ฅ๐๐๐ค ๐๐จ๐ฑ, a๐ฅ๐ข๐ ๐ง๐ฆ๐๐ง๐ญ ๐ฐ๐ข๐ญ๐ก ๐ ๐ฅ๐จ๐๐๐ฅ ๐ซ๐๐ ๐ฎ๐ฅ๐๐ญ๐ข๐จ๐ง๐ฌ ๐ญ๐จ ๐ฉ๐ซ๐จ๐ญ๐๐๐ญ ๐ข๐ง๐๐ข๐ฏ๐ข๐๐ฎ๐๐ฅ๐ฌ ๐๐๐ซ๐จ๐ฌ๐ฌ ๐๐จ๐ซ๐๐๐ซ๐ฌ, dan seterusnya.
FP. Mengapa sebuah perusahaan harus mengadopsi standar ini?
KP. Mereka memang memiliki insentif untuk melakukannya, karena konsumen dan penggemar di luar sana akan tahu siapa yang serius dan siapa yang tidak. Organisasi yang memenuhi standar dapat dengan mudah diidentifikasi. AI tidak hanya membutuhkan model yang lebih cerdas; ia membutuhkan tata kelola yang lebih cerdas. Karena kepercayaan tidak otomatis. Itu diperoleh, dipertahankan, dan dilindungi melalui tata kelola data yang bertanggung jawab. Pertanyaannya sekarang bukan lagi "bisakah AI melakukan ini?" tetapi lebih kepada "bisakah kita mempercayai cara itu dilakukan?"
FP. Kepercayaan tidak otomatis dan manfaat konsumen, sejalan dengan nilai-nilai kemanusiaan, mungkin tidak selalu menjadi tujuan dari model ini atau itu. Kita perlu standar baru, yang diakui di seluruh perusahaan publik dan swasta. Kelompok seperti XRSI sedang mengerjakannya. Waktu yang tepat untuk memahami, membimbing, memberi label, mengukur, dll... adalah sekarang
Oleh Frank Pagano
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Bisakah kita sepenuhnya mempercayai AI? Tidak, tetapi kita dapat memantau itu.
Kami mencintai mesin. Kami mengikuti sistem navigasi kami untuk pergi ke tempat-tempat, dan dengan hati-hati mengevaluasi rekomendasi tentang perjalanan, restoran, dan pasangan potensial untuk seumur hidup, di berbagai aplikasi dan situs web, karena kami tahu algoritma bisa menemukan peluang yang mungkin kami suka, lebih baik daripada yang bisa kami lakukan. Tetapi ketika datang ke keputusan akhir tentang kesehatan, pekerjaan kami, atau anak-anak kami, misalnya, apakah Anda akan mempercayai dan mempercayakan AI untuk bertindak atas nama Anda? Mungkin tidak.
Inilah sebabnya kami (FP) berbicara dengan Kavya Pearlman (KP), Pendiri & CEO di XRSI, yang merupakan kelompok Intelijen Keamanan X-Reality yang dia bentuk, untuk menangani dan mengurangi risiko dalam interaksi antara manusia dan teknologi eksponensial. Tentu saja, dia berbasis di Pantai Barat AS. Ini adalah pertukaran kami
FP. Apa yang terjadi dengan kemunculan AI?
KP. Selama bertahun-tahun, perusahaan teknologi telah menormalkan ide bahwa kita harus menyerahkan aset paling berharga kita, data kita, sebagai imbalan untuk kenyamanan digital. Kita selalu mengklik "terima" tanpa pernah bertanya. Sekarang, dengan munculnya perangkat yang dapat dikenakan dan sistem ๐๐-๐ข๐ง๐ญ๐๐ ๐ซ๐๐ญ๐๐, taruhannya jauh lebih tinggi. Ini bukan hanya tentang riwayat penelusuran atau data lokasi lagi. Perusahaan-perusahaan sedang mengumpulkan wawasan dari tubuh dan pikiran kita, dari ritme jantung dan aktivitas ๐๐ซ๐๐ข๐ง hingga ๐๐ฆ๐จ๐ญ๐ข๐จ๐ง๐๐ฅ ๐ฌ๐ญ๐๐ญ๐๐ฌ. Dan tetap saja, hampir tidak ada yang bertanya: ๐๐จ๐ฐ ๐๐จ ๐ฐ๐ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ญ๐ก๐๐ฌ๐ ๐ฌ๐ฒ๐ฌ๐ญ๐๐ฆ๐ฌ ๐ฐ๐ข๐ญ๐ก ๐จ๐ฎ๐ซ ๐ฆ๐จ๐ฌ๐ญ ๐ข๐ง๐ญ๐ข๐ฆ๐๐ญ๐ ๐๐๐ญ๐? ๐๐ก๐๐ญ ๐ฉ๐จ๐ฐ๐๐ซ ๐๐จ ๐ฐ๐ ๐ก๐๐ฏ๐ ๐ข๐ ๐ฐ๐ ๐๐จ๐งโ๐ญ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ญ๐ก๐๐ฆ? ๐๐ก๐๐ญ ๐๐ซ๐ ๐ญ๐ก๐ ๐ข๐ง๐๐ข๐๐๐ญ๐จ๐ซ๐ฌ ๐จ๐ ๐ญ๐ซ๐ฎ๐ฌ๐ญ ๐ฐ๐ ๐ฌ๐ก๐จ๐ฎ๐ฅ๐ ๐๐๐ฆ๐๐ง๐?
Ini bukan hanya tantangan teknis. Ini adalah tantangan pemerintahan dan pada intinya, merupakan pertanyaan tentang ๐ญ๐ซ๐ฎ๐ฌ๐ญ. Tanpa transparansi dan akuntabilitas, AI berisiko memperkuat bias tersembunyi, mengikis kepercayaan, dan meninggalkan orang tanpa jalan keluar ketika sistem melakukan kesalahan. ๐๐ณ๐ถ๐ด๐ต ๐ค๐ข๐ฏ๐ฏ๐ฐ๐ต ๐ฆ๐น๐ช๐ด๐ต ๐ช๐ง ๐ธ๐ฆ ๐ฅ๐ฐ๐ฏโ๐ต ๐ฌ๐ฏ๐ฐ๐ธ ๐ธ๐ฉ๐ข๐ต ๐ฅ๐ข๐ต๐ข ๐ช๐ด ๐ฃ๐ฆ๐ช๐ฏ๐จ ๐ค๐ฐ๐ญ๐ญ๐ฆ๐ค๐ต๐ฆ๐ฅ, ๐ฉ๐ฐ๐ธ ๐ช๐ตโ๐ด ๐ถ๐ด๐ฆ๐ฅ, ๐ฐ๐ณ ๐ฉ๐ฐ๐ธ ๐ฅ๐ฆ๐ค๐ช๐ด๐ช๐ฐ๐ฏ๐ด ๐ข๐ณ๐ฆ ๐ฎ๐ข๐ฅ๐ฆ.
FP. Bisakah Anda benar-benar membuat sistem yang melakukan itu, transparansi dan akuntabilitas?
KP. Anda bisa, jika Anda mau. Sebagai contoh, kami baru saja meluncurkan standar ๐๐๐ฌ๐ฉ๐จ๐ง๐ฌ๐ข๐๐ฅ๐ ๐๐๐ญ๐ ๐๐จ๐ฏ๐๐ซ๐ง๐๐ง๐๐ (๐๐๐). Ini memberikan pedoman konkret untuk AI dan teknologi yang dapat dikenakan, termasuk p๐จ๐ฅ๐ข๐๐ข๐๐ฌ ๐จ๐ง ๐ฐ๐ก๐๐ญ ๐๐๐ญ๐ ๐๐๐ง ๐๐ง๐ ๐๐๐ง๐ง๐จ๐ญ ๐๐ ๐ฎ๐ฌ๐๐, p๐ซ๐จ๐ญ๐จ๐๐จ๐ฅ๐ฌ ๐๐จ๐ซ ๐ฆ๐๐ง๐๐ ๐ข๐ง๐ ๐๐ ๐จ๐ฎ๐ญ๐ฉ๐ฎ๐ญ๐ฌ ๐๐ง๐ ๐๐ง๐ฌ๐ฎ๐ซ๐ข๐ง๐ ๐ญ๐ก๐๐ข๐ซ ๐ช๐ฎ๐๐ฅ๐ข๐ญ๐ฒ, e๐ฑ๐ฉ๐ฅ๐๐ข๐ง๐๐๐ข๐ฅ๐ข๐ญ๐ฒ ๐ฅ๐จ๐ ๐ฌ ๐ฌ๐จ ๐๐๐๐ข๐ฌ๐ข๐จ๐ง๐ฌ ๐๐ซ๐๐งโ๐ญ ๐ก๐ข๐๐๐๐ง ๐ข๐ง ๐ ๐๐ฅ๐๐๐ค ๐๐จ๐ฑ, a๐ฅ๐ข๐ ๐ง๐ฆ๐๐ง๐ญ ๐ฐ๐ข๐ญ๐ก ๐ ๐ฅ๐จ๐๐๐ฅ ๐ซ๐๐ ๐ฎ๐ฅ๐๐ญ๐ข๐จ๐ง๐ฌ ๐ญ๐จ ๐ฉ๐ซ๐จ๐ญ๐๐๐ญ ๐ข๐ง๐๐ข๐ฏ๐ข๐๐ฎ๐๐ฅ๐ฌ ๐๐๐ซ๐จ๐ฌ๐ฌ ๐๐จ๐ซ๐๐๐ซ๐ฌ, dan seterusnya.
FP. Mengapa sebuah perusahaan harus mengadopsi standar ini?
KP. Mereka memang memiliki insentif untuk melakukannya, karena konsumen dan penggemar di luar sana akan tahu siapa yang serius dan siapa yang tidak. Organisasi yang memenuhi standar dapat dengan mudah diidentifikasi. AI tidak hanya membutuhkan model yang lebih cerdas; ia membutuhkan tata kelola yang lebih cerdas. Karena kepercayaan tidak otomatis. Itu diperoleh, dipertahankan, dan dilindungi melalui tata kelola data yang bertanggung jawab. Pertanyaannya sekarang bukan lagi "bisakah AI melakukan ini?" tetapi lebih kepada "bisakah kita mempercayai cara itu dilakukan?"
FP. Kepercayaan tidak otomatis dan manfaat konsumen, sejalan dengan nilai-nilai kemanusiaan, mungkin tidak selalu menjadi tujuan dari model ini atau itu. Kita perlu standar baru, yang diakui di seluruh perusahaan publik dan swasta. Kelompok seperti XRSI sedang mengerjakannya. Waktu yang tepat untuk memahami, membimbing, memberi label, mengukur, dll... adalah sekarang
Oleh Frank Pagano