Buterin AI boshqaruvida ekspluatatsiyalarni to'xtatish uchun Info Finance'ni rag'batlantirmoqda

• Vitalik oddiy AI boshqaruvi manipulyatsiya va ekspluatatsiyaga zaif ekanligini ogohlantirdi.
• Info finance model xilma-xilligi va tezkor tuzatishlarni yaratadi, bu esa AI boshqaruvini xavfsizroq qiladi.
• Prediction markets va spot tekshiruvlar AI qaror qabul qilish va moliyalashtirishni himoya qiladi.

Ethereum hammuassisi Vitalik Buterin oddiy AI boshqaruvi modellari jiddiy xavf tug‘dirishini va AIga asoslangan moliyalashtirish yoki qaror qabul qilish tizimlari manipulyatsiya va ekspluatatsiyaga ochiq qolishini ogohlantirdi. Uning fikricha, bunday tizimlar zararli shaxslar tomonidan resurslarni yo‘naltirish imkonini beradi, biroq u “info finance” deb ataladigan yondashuvni qo‘llab-quvvatlaydi, bu esa bozorlar, inson nazorati va tekshiruvlar orqali javobgarlikni kuchaytirish va noto‘g‘ri foydalanishni oldini olishga mo‘ljallangan.

Oddiy AI Boshqaruviga Qarshi Dalillar

Buterin oddiy AI boshqaruvi xavfli ekanligini ta’kidladi va agar AI mablag‘larni taqsimlash uchun ishlatilsa, odamlar o‘zlari xohlagan so‘rovlar bilan uni manipulyatsiya qilib, ortiqcha daromad olishlari mumkinligini qo‘shimcha qildi. U shuningdek, agar modellar hech qanday cheklov yoki ko‘rsatmasiz ishlasa, ular noto‘g‘ri boshqarilishi va xakerlarni AI’ni noto‘g‘ri resurslarni chiqarishga undash uchun so‘rovlar bilan aldashga rag‘batlantirishi mumkinligini tushuntirdi. 

Bunday zaifliklar AI’ni potentsial xavfli tuynukka olib keladi. Bundan tashqari, Buterin tizimli zaifliklarni ochiqladi, agar ular nazorat qilinmasa, manipulyatsiya qilinishi mumkin. Ko‘rinmas hujumlar, prompt injections — bu hujumchilar qanday qilib osonlik bilan ustunlikka ega bo‘lishining misollaridir.

Muqobil Sifatida Info Finance

Buterin oddiy boshqaruv o‘rniga info finance’ni tanlaydi va uni “institutsional dizayn” yondashuvi sifatida ta’riflaydi, bu ochiq bozor raqobatini insoniy tekshiruv bilan birlashtiradi. U shunday dedi:

Muqobil sifatida, men info finance yondashuvini qo‘llab-quvvatlayman, bu yerda ochiq bozor mavjud bo‘lib, har kim o‘z modelini qo‘shishi mumkin, ular esa har kim tomonidan ishga tushiriladigan va inson hakamlar hay’ati tomonidan baholanadigan spot-tekshiruv mexanizmi orqali tekshiriladi.

U ta’kidladi, Info Finance tashqi ishtirokchilarga katta til modellari (LLM)ni yagona tizimga qattiq kodlashsiz integratsiya qilish imkonini beradi. Bu model xilma-xilligini ta’minlaydi va keng ko‘lamli muvaffaqiyatsizlik ehtimolini kamaytiradi. Shuningdek, ishlab chiquvchilar va spekulyantlarni nuqsonlarni diqqat bilan kuzatish va muammolar yuzaga kelganda tezkor harakat qilishga rag‘batlantiradi.

Taklif etilgan mexanizmlardan biri prediction markets yoki decision markets’ni o‘z ichiga oladi. Bir nechta modellar raqobatlashadi va ishtirokchilar natijalarga stavka qo‘yishlari mumkin, bu esa qaysi modellar eng ishonchli ekanligini ko‘rsatadi. Inson hakamlar hay’ati yoki auditorlar natijalarni vaqti-vaqti bilan, ayniqsa yuqori xavfli holatlarda, spot-tekshiruvdan o‘tkazadi.

Related: ETH Treasuries Surge to $12B as Vitalik Warns of Leverage Risks

Kripto va Bozorlar Uchun Ahamiyati

Info finance ko‘p qatlamli javobgarlikka tayanadi va ochiq raqobatda, nuqsonli modellarni chaqirish yoki almashtirish imkonini beradi. Inson nazorati hakamlar hay’ati va auditlar orqali qo‘shiladi. Iqtisodiy rag‘batlar manipulyatsiyani cheklaydi, shaffoflik esa zararli harakatlarni ko‘rinadigan qiladi.

AI boshqaruvini blockchain va savdo bilan bog‘lab, Buterin markazlashtirilgan AI’dagi nuqsonlar Ethereum asosida qurilgan markazsiz yechimlarga qiziqishni oshirishi mumkinligini taklif qiladi. Bundan tashqari, Render Network’ning RNDR va The Graph’ning GRT tokenlari AI hisoblashlari uchun infratuzilma taqdim etadi va rivojlanishdan foyda ko‘radi. Bundan tashqari, treyderlar ETH va tokenlardan bozor o‘zgaruvchanligi sharoitida arbitraj uchun foydalanishlari mumkin. 

On-chain ma’lumotlar shuni ko‘rsatadiki, AI bilan bog‘liq smart-kontraktlar bilan bog‘liq ETH tranzaksiyalari ko‘paymoqda va AI boshqaruvi muammolari texnologik aksiyalarga ham ta’sir qilishi mumkin, NVIDIA va Microsoft kabi kompaniyalar AI investitsiyalarida ishtirok etmoqda. Umuman olganda, Buterin Info Finance tezkor tuzatishlarni ta’minlashini, nuqsonli modellarni almashtirish va qoidabuzarlarni jazolash imkonini berishini ta’kidladi. U, shuningdek, hakamlar hay’ati va spot-tekshiruvlar ekspluatatsiyaning tarqalishining oldini olishini qo‘shimcha qildi.

The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.