AI xavfsizligi? Bletchley Park bayonoti juda muhim

O'tgan yilning 1 va 2 noyabr kunlari AI xavfsizlik sammiti, da Buyuk Britaniyada bo'lib o'tdi Bletchli bog'i, Bukingemshir okrugida 28 davlat sun'iy intellektni xavfsiz sharoitlarda rivojlantirish bo'yicha niyat deklaratsiyasini imzoladi.

AI: boshlanadigan urush biz kutgandek bo'lmaydi
SwissGPT: korporativ xavfsizlikni inqilob qiladigan Shveytsariya AI
Fotogalereya, Lixtenshteyndagi raqamli transformatsiyaning kelajagi

Yaxshi yoki yomon uchun ramziy qiymati yuqori bo'lgan joy ...

Sammit o'tkazilgan joy, Bletchli bog'i, Ikkinchi Jahon urushi davrida shifrni ochish markazi bo'lgan Alan Turing va uning jamoasi yaratish ustida ishladi "Kristofer”, kodini buzishga muvaffaq bo'lgan hisoblash mashinasi Enigma, maxfiy harbiy xabarlarni kodlash uchun foydalanilgan nemis qurilmasi shu paytgacha matematik jihatdan ishonchsiz deb hisoblangan.

Ingliz olimi tufayli urush ikki yilga kamroq davom etib, kamida 14 million kishining hayotini saqlab qolgani hisoblanganidek, ramziy ahamiyatga ega bo'lgan joy.

Afsuski, xuddi shu joy ko'plab hukumatlarning o'z qutqaruvchilariga nisbatan tub befarqligi va noshukurligini anglatadi, chunki Alan Tyuring 1954 yilda gomoseksualligi uchun unga qo'yilgan bir yillik "kimyoviy kastratsiya" dan so'ng qirollikning g'ayrioddiy yakuni bilan o'z joniga qasd qilgan. vafotidan keyin avf etish". 2013-yilda, go'yo u biror narsa uchun tuzatishga majbur bo'lgan.

Bularning barchasi bizni sun'iy intellekt bilan bog'liq bo'lgan texnologiyalarning yaqinda "portlashi" bilan ochilgan muammolarga yuqori hokimiyatlarning hozirgi yondashuvi haqida hayratda qoldiradi.

Shveytsariya va AQSh kiberxavfsizlik va raqamli texnologiyalar sohasida hamjihatlikda
Suv, o't va insoniyat: sun'iy intellektning kognitiv chegaralari
Sun'iy intellekt yangi dorilarni ishlab chiqish uchun ham

Keling, niyat deklaratsiyasida nimani o'z ichiga olganini ko'rib chiqaylik

Inson faoliyatining turli sohalarida sun'iy intellekt taqdim etayotgan takomillashtirish imkoniyatlarini umumlashtirgandan so'ng va u bilan bog'liq texnologiyalar hozirda keng tarqalganligini tan olgandan so'ng, ularni xavfsiz rivojlantirish zarurati va har doim bizning turimizning ehtiyojlarini qondirish zarurati. markaz.

Keyinchalik mumkin bo'lgan xavflar qatori sanab o'tiladi, ularning ba'zilari allaqachon sohada tasdiqlangan, AI tizimlaridan foydalanish bilan bog'liq va xususan: inson huquqlariga xos bo'lgan xavflar (mehnat qilish, g'amxo'rlik qilish, adolat); maxfiylikni himoya qilish bilan bog'liq xavflar; to'g'ri ma'lumotlar bilan bog'liq xavflar (o'ta ishonchli noto'g'ri kontent); AI bilan bog'liq texnologik "o'ziga xosliklar" bilan bog'liq xavflar (biotexnologiya va axborot texnologiyalari kabi nozik kontekstlarda yangi buzuvchi texnologiyalar).

Shveytsariyada shaffof va ishonchli AI uchun Federal Politexnika
Sun'iy intellekt (shuningdek) fotosuratlarni tahrirlashda inqilobdir
Innovatsiya va jurnalistika: ko'pincha qiyin birga yashash

Muammoni davlat chegaralaridan tashqarida boshqarish

Ushbu xavf-xatarlarning aksariyati o'z mohiyatiga ko'ra xalqaro xarakterga ega bo'lganligi sababli, ularni yuzaga kelishi bilan hal qilish uchun davlatlar o'rtasida maksimal darajada hamkorlik qilish tavsiya etiladi, shuningdek, eng yirik va eng muhim kompaniyalardan boshlab barcha ishtirokchilarning faol ishtiroki, shuning uchun eng kuchli kompaniyalarni "o'qitish" ga qodir. AI, uzluksiz, ochiq va shaffof taqqoslashda.

Shunday qilib, global darajada hamkorlik tarmog'i sun'iy intellektning jamiyatga ta'sirini yaxshiroq tushunish uchun global va umumiy ilmiy yondashuv orqali xavflarni aniqlash va natijada tegishli o'zgarishlarni hal qilish uchun umumiy siyosatni yaratish maqsadida yaratiladi.

Maykl fon Lixtenshteyn geosiyosat va sun'iy intellekt haqida
Qarilik yaxshi va yomon texnologiya o'rtasidagi chegara bo'lganda
"Shveytsariya statistika kunlari 2023" ning Big Data leytmotivi

Mavzuni boshqarishda yuqoridan pastga yondashuvning xavflari

Bir qator soha mutaxassislarining ta'kidlashicha, barcha o'yinchilar bilan ochiq munozarani davom ettirish istagidagi yaxshi niyat va bayonotlardan tashqari, bunday "yuqoridan pastga" yondashuv faqat sektordagi yirik kompaniyalarning "qo'llarini bog'lash" xavfini tug'diradi, aksincha, kompaniyani tark etadi. kichikroq va shuning uchun nazorat qilish qiyin bo'lgan ob'ektlar hamma uchun bepul.

Bular hozirda Google va OpenAI kabi kompaniyalar tomonidan ishlab chiqilgan texnologiyalar tufayli tobora aniqroq tarqaladigan voqeliklardir, bu esa zarur resurslarni optimallashtirish hisobiga AI tizimlarini yanada shaxsiylashtirishga imkon beradi, ehtimol qonuniylik chegarasida ishlaydi. .

Qisqasi, qadimgi Xitoy la'nati aytganidek, qiziqarli vaqtlar oldinda.

Kristofer Nolan kinosiga bo'lgan ishonchning doimiy sakrashi
Lixtenshteynni raqamli markaz sifatida targ'ib qilish bo'yicha yo'l xaritasi
Frauenfeldda AI yangi PET saralash zavodini boshqarmoqda