Peluang dan Tantangan dalam Pengembangan Web3 AI

Dalam beberapa waktu terakhir, harga saham NVIDIA mencapai rekor tertinggi, kemajuan model multimodal semakin memperkuat keunggulan teknologi AI Web2. Dari penyelarasan semantik hingga pemahaman visual, dari penyisipan dimensi tinggi hingga penggabungan fitur, model kompleks mengintegrasikan berbagai cara ekspresi dengan kecepatan yang belum pernah terjadi sebelumnya, membangun sebuah puncak AI yang semakin tertutup. Pasar saham AS juga memberikan pengakuan melalui tindakan nyata, baik saham terkait cryptocurrency maupun saham AI, menunjukkan gelombang kecil bull market.

Namun, gelombang ini tampaknya tidak ada hubungannya dengan bidang cryptocurrency. Upaya Web3 AI yang kami amati, terutama eksplorasi arah Agent dalam beberapa bulan terakhir, tampaknya memiliki penyimpangan arah: berusaha merakit sistem modular multimodal bergaya Web2 dengan struktur desentralisasi, yang sebenarnya merupakan suatu dislokasi teknologi dan pemikiran. Dalam keadaan di mana keterkaitan modul sangat kuat, distribusi fitur sangat tidak stabil, dan kebutuhan daya komputasi semakin terpusat, modularitas multimodal sulit untuk berdiri di lingkungan Web3.

Masa depan Web3 AI tidak terletak pada peniruan sederhana, tetapi pada penghindaran strategis. Dari penyelarasan semantik dalam ruang berdimensi tinggi, hingga hambatan informasi dalam mekanisme perhatian, dan penyelarasan fitur di bawah kekuatan komputasi heterogen, semua ini adalah masalah yang perlu dipikirkan secara mendalam.

Tantangan yang Dihadapi oleh Web3 AI

Dilema Penyelarasan Semantik

Dalam sistem multimodal Web2 AI modern, "penyelarasan semantik" merujuk pada pemetaan informasi dari berbagai modal ke dalam ruang semantik yang sama, sehingga model dapat memahami dan membandingkan makna mendalam di balik sinyal yang awalnya berbeda bentuk ini. Ini membutuhkan ruang embedding berdimensi tinggi sebagai prasyarat untuk mencapai modularitas dan peningkatan efisiensi alur kerja.

Namun, protokol Web3 Agent sulit untuk mencapai penyisipan dimensi tinggi. Sebagian besar Web3 Agent hanya mengemas API yang sudah ada menjadi unit independen, kekurangan ruang penyisipan pusat yang terintegrasi dan mekanisme perhatian lintas modul, yang mengakibatkan informasi tidak dapat berinteraksi dari berbagai sudut dan tingkat antar modul, sehingga hanya dapat beroperasi menurut alur linier, sulit untuk membentuk optimasi lingkaran tertutup secara keseluruhan.

Untuk mewujudkan agen cerdas lintas rantai yang kompetitif, diperlukan pemodelan gabungan dari ujung ke ujung, penyematan terpadu antar modul, serta rekayasa sistematis dari pelatihan dan penerapan kolaboratif. Namun saat ini, tampaknya tidak ada permintaan seperti itu di pasar.

Keterbatasan mekanisme perhatian

Model multimodal tingkat tinggi memerlukan mekanisme perhatian yang dirancang dengan cermat. Mekanisme perhatian pada dasarnya adalah cara untuk secara dinamis mengalokasikan sumber daya komputasi, sehingga model dapat "memfokuskan" pada bagian yang paling relevan saat memproses input dari suatu modal.

Namun, Web3 AI berbasis modular sulit untuk mencapai penjadwalan perhatian yang seragam. Pertama, mekanisme perhatian bergantung pada ruang Query-Key-Value yang seragam, sementara format dan distribusi data yang dikembalikan oleh API independen berbeda-beda, sehingga sulit untuk membentuk Q/K/V yang dapat berinteraksi. Kedua, perhatian multi-kepala memungkinkan fokus secara paralel pada sumber informasi yang berbeda, sementara API independen biasanya merupakan pemanggilan linier, kurang mampu dalam kemampuan paralel dan penimbangan dinamis multi-jalur. Terakhir, mekanisme perhatian yang sebenarnya mendistribusikan bobot secara dinamis untuk setiap elemen berdasarkan konteks keseluruhan, sementara dalam mode API, modul-modul kekurangan konteks pusat yang dapat dibagikan secara real-time.

Keterbatasan penggabungan fitur

Web3 AI masih berada di tahap penggabungan fitur statis yang sederhana. Prasyarat untuk penggabungan fitur dinamis adalah ruang berdimensi tinggi dan mekanisme perhatian yang cermat. Ketika kondisi ini tidak terpenuhi, maka efek penggabungan fitur secara alami sulit untuk ditingkatkan.

AI Web2 cenderung melakukan pelatihan bersama dari ujung ke ujung, memproses fitur multimodal secara bersamaan dalam ruang berdimensi tinggi, dan melakukan optimasi kolaboratif dengan lapisan tugas hilir melalui lapisan perhatian dan lapisan penggabungan. Sebaliknya, AI Web3 lebih sering menggunakan pendekatan penyambungan modul diskrit, yang kurang memiliki tujuan pelatihan yang terintegrasi dan aliran gradien antar modul.

Hambatan Industri AI dan Peluang Masa Depan

Hambatan teknologi di industri AI semakin mendalam, tetapi titik nyeri yang sebenarnya belum muncul. Sistem multimodal AI Web2 adalah proyek besar yang membutuhkan data dalam jumlah besar, kekuatan komputasi yang kuat, algoritma canggih, dan implementasi rekayasa yang efisien, yang membentuk hambatan industri yang sangat kuat.

Perkembangan Web3 AI harus mengambil strategi "desa mengepung kota", masuk dari skenario tepi, dan mencari peluang dalam struktur ringan, tugas yang mudah diparalelkan dan dapat diberi insentif. Contohnya termasuk fine-tuning LoRA, tugas pasca pelatihan penyelarasan perilaku, pelatihan dan penandaan data crowdsourcing, pelatihan model dasar kecil, serta pelatihan kolaboratif perangkat tepi.

Namun, hambatan Web2 AI saat ini baru mulai terbentuk, ini adalah tahap awal persaingan perusahaan-perusahaan besar. Peluang nyata Web3 AI mungkin muncul saat keuntungan Web2 AI menghilang sepenuhnya. Sebelum itu, proyek Web3 AI perlu memilih titik masuk dengan hati-hati, memastikan dapat terus berinovasi dalam skenario berskala kecil, dan tetap fleksibel untuk menyesuaikan dengan permintaan pasar yang terus berubah.