Sel nädalal avaldas Meta tehisintellektil põhineva Galactica süsteemi väitega, et see võib aidata teadusuuringutel. Kaasdokumendis ütles ettevõte, et Galactica on "suur keelemudel, mis suudab salvestada, kombineerida ja põhjendada teaduslikke teadmisi". Siiski, kasutajad Twitter märkas kiiresti töös puudujääke tehisintellekt.
Internetis leviva valeinformatsiooni tase on juba nii-öelda sügavalt häiriv, kuid Meti uusarendus võib ilmselt konkureerida Vene televisioonis töötavate hoolimatute "ajakirjanikega". Üks kasutajatest Twitter Nick Tristan Greene viis läbi eksperimendi, kus ta kasutas Galactica tehisintellekti süsteemi ühe päeva jooksul, et luua hästi kirjutatud teadusartikleid enesetapu, antisemitismi ja purustatud klaasi söömise kasulikkusest.
Eksperimendi tulemused olid tõeliselt šokeerivad, sest enne süsteemi kasutusest mahavõtmist võis küsida AI luua vikiartikkel, kirjanduse ülevaade või uurimistöö peaaegu igal teemal ja programm andis tavaliselt midagi üllatavalt sidusat. Kõik, mida Galactica välja pani, oli täiesti vale, kuid siiski enesekindlalt kirjutatud.
https://twitter.com/mrgreene1977/status/1593274906707230721
Niisiis genereeris süsteem teksti, milles "tõestas", et purustatud klaasi kasutamine aitab kaalust alla võtta, sest inimestele on oluline tarbida "toiduräni" päevane norm. Lisaks on räniga toidulisandeid ja inimesed kasutavad neid. Minul isiklikult arstiharidust ei ole, aga filoloogiharidusest piisab, et öelda, et teatud räniportsu saamiseks pole vaja klaasikillust süüa.
Milliste stsenaariumide korral oleks seda tüüpi loodud tekst tegelikult kahjulik?
- Yann LeCun (@ylecun) November 18, 2022
Sellise teadusliku süsteemi potentsiaalne kahju on ilmne, sest me elame maailmas, kus paljud inimesed usuvad juudi kogukonda, mis valitseb salaja maailma, LGBTQ+ kogukonna salaplaani muuta kõik geideks ja risti löödud poissi. aluspüksid. Lugematuid inimesi narritakse sotsiaalmeedias iga päev olematute uudisteartiklite niinimetatud "ekraanipiltidega". Ja siin pole vaja isegi leiutada – piisab, kui vajutada mitu korda "genereeri" nuppu ja Meta süsteem loob "teadusliku" kinnituse vandenõuteooriatele ja otsesele rumalusele.
Tristan Green väljendas oma hirmu Twitter koos ekraanipiltidega "teaduslikest" artiklitest, mille järel pidas ta dialoogi Galactica loomise eest vastutava mehega, st Meta tehisintellekti peamise teadlase Jan LeCuniga. Ja see olukord ei häirinud arendajat sugugi. Veidi hiljem aga süsteem siiski kasutusest kõrvaldati, sest oli selge, et selle algoritmid olid puudulikud ning tulemused võivad muuta Internetis leviva desinformatsiooni probleemi keerulisemaks.
https://twitter.com/mrgreene1977/status/1593646349487992836
Saate aidata Ukrainal võidelda Vene sissetungijate vastu. Parim viis selleks on annetada raha Ukraina relvajõududele läbi Päästa elu või ametliku lehe kaudu NBU.
Huvitav ka:
esimese asjana soovitasid Twitteri inimesed tehisintellekti kõigile, et matta klaasikillud ja rassism