Google'i endine juht võrdles tehisintellekti tuumarelvadega

Google'i endine tegevjuht Eric Schmidt võrdles tehisintellekti (AI) tuumarelvadega ja kutsus üles looma heidutusrežiimi, mis sarnaneks vastastikuse tagatud hävitamisega, mis hoiab ära maailma võimsaimate riikide üksteist hävitamast.

Schmidt rääkis tehisintellekti ohtudest 22. juulil Aspeni julgeolekufoorumil riikliku julgeoleku ja tehisintellekti teemalisel arutelul. Küsimusele moraali väärtuse kohta tehnoloogias selgitas Schmidt, et ta ise oli Google’i algusaegadel info jõu suhtes naiivne. Seejärel kutsus ta üles tehnoloogiat paremini vastama nende inimeste eetikale ja moraalile, keda nad teenivad, ning tõi tehisintellekti ja tuumarelvade vahel kummalise võrdluse.

"Me ei ole valmis läbirääkimisteks, mida vajame." – @ericschmidt #AspenSecurity pilttwitter.com/As749t6ZyU

— Aspeni turvafoorum (@AspenSecurity) Juuli 22, 2022

Schmidt rääkis lähitulevikust, milleks Hiina ja USA peavad sõlmima tehisintellekti lepingu. "50ndatel ja 60ndatel lõime lõpuks maailma, kus tuumakatsetuste jaoks kehtis reegel "ei mingeid üllatusi" ja selle tulemusel need keelati," ütles Schmidt. "See on näide usalduse tasakaalust või usalduse puudumisest, see on reegel "üllatusi pole." Olen väga mures selle pärast, et USA nägemus Hiinast kui korrumpeerunud või kommunistlikust või millest iganes ja Hiina nägemus Ameerikast kui kaotajast... võimaldab inimestel öelda: "Oh issand, nad on millegi kallal" ja siis. algab midagi arusaamatut... .

AI ja masinõpe on põnev ja sageli valesti mõistetav tehnoloogia. Ta pole põhimõtteliselt nii tark, kui inimesed arvavad. See võib luua meistriteose tasemel kunstiteoseid, võita inimesi Starcraft II-s ja teha kasutajatele algelisi telefonikõnesid. Kuid katsed panna see raskemaid ülesandeid täitma, näiteks suures linnas autoga sõitma, pole olnud edukad.

Schmidt räägib kujuteldavast lähitulevikust, kus nii Hiina kui ka USA tunnevad muret julgeolekuprobleemide pärast, mis sunnib neid sõlmima omalaadse tehisintellekti sisaldava lepingu. Ta meenutas 1950. ja 60. aastaid, mil diplomaatia töötas välja rea ​​kontrolle planeedi surmavamate relvade ümber. Kuid enne tuumakatsetuste keelustamise lepingu, SALT II ja muude oluliste õigusaktide sõlmimist rahu saabumiseks kulus kümme aastat tuumaplahvatusi ja, mis kõige tähtsam, Hiroshima ja Nagasaki hävitamine.

Kaks Jaapani linna, mille Ameerika hävitas Teise maailmasõja lõpus, nõudsid kümnete tuhandete inimeste elusid ja tõestasid maailmale tuumarelvade igavest õudust. Siis tormasid Venemaa ja Hiina valitsused relvi soetama. See, kuidas me elame võimalusega, et neid relvi hakatakse kasutama, on nn vastastikku tagatud hävitamine (MAD), heidutusteooria, mis tagab, et kui üks riik laseb välja tuumarelva, on võimalik, et seda teeb mõni teine ​​riik. Me ei kasuta planeedi kõige hävitavamaid relvi, kuna on võimalik, et see hävitab vähemalt tsivilisatsiooni kogu maailmas.

Vaatamata Schmidti värvikatele kommentaaridele ei taha ega vaja me AI jaoks MAD-i. Esiteks ei ole AI veel tõestanud oma hävitavat jõudu võrreldes tuumarelvadega. Kuid võimulolijad kardavad seda uut tehnoloogiat ja enamasti valedel põhjustel. Inimesed on isegi teinud ettepaneku anda kontroll tuumarelvade üle tehisintellektile, arvates, et see oleks selle kasutamise osas parem vahekohtunik kui inimene.

Tehisintellekti probleem ei seisne selles, et sellel on tuumarelva potentsiaalselt hävitav jõud. Asi on selles, et tehisintellekt on täpselt nii hea kui inimesed, kes selle välja töötasid, ja et see kannab oma loojate väärtusi. AI kannatab klassikalise "prügi sisse, prügi välja" probleemi all: rassistlikud algoritmid loovad rassistlikke roboteid ja kogu tehisintellekt kannab endas selle loojate eelarvamusi.

Demis Hassabis, ettevõtte DeepMind tegevjuht, kes koolitas Starcraft II mängijaid võitvat tehisintellekti, näib mõistavat seda paremini kui Schmidt. Lex Friedmani taskuhäälingusaates juulikuus antud intervjuus küsis Friedman Hassabiselt, kuidas saab kontrollida nii võimsat tehnoloogiat nagu tehisintellekt ja kuidas saab Hassabis ise vältida selle võimu rikkumist.

Khasabise vastus puudutab teda ennast. "Tehisintellekt on liiga suur idee," ütles ta. „Oluline on, kes teeb tehisintellekti, mis kultuuridest nad pärit on ja millised on nende väärtused. AI-süsteemid õpivad ise, kuid süsteem jääb jäljendiks süsteemi autorite kultuurist ja väärtustest.

Tehisintellekt on selle autori peegeldus. See ei suuda 1,2-megatonnise pauguga linna maatasa teha. Kui just inimene talle seda ei õpeta.

Saate aidata Ukrainal võidelda Vene sissetungijate vastu. Parim viis selleks on annetada raha Ukraina relvajõududele läbi Päästa elu või ametliku lehe kaudu NBU.

Loe ka:

• Uus rakendus Samsung kasutab teie fotode täiustamiseks tehisintellekti
• Tehisintellekt aitab tuvastada astronoomilisi objekte