Nešto o Alis i Bobu

Botovi sa kreativnim jezičkim veštinama osvojili su popularnu maštu. Oni su takođe ponovo podstakli strepnje zbog robokalipse

Alisa i Bob, Alisa i Bob Fejsbuk, Fejsbuk botovi, botovi veštačke inteligencijeAlis i Bob, Facebook botovi koji su stekli sramotu zbog neočekivanog nedostatka u logici programiranja, deo su eksperimenta za izgradnju pregovaračkih mašina. C R Sasikumar

Internet je bio u plamenu dramatično opterećenim naslovima u kojima se proglašava da je Fejsbuk morao da povuče iz mreže lažne botove veštačke inteligencije (AI) koji su razvili sopstveni jezik na kome su vodili neljudski privatne razgovore. Čitaju se kao tizeri za globokalipsu Terminatora, koja je najgora noćna mora primata koji koristi oruđe - da bude zamenjena sopstvenom kreacijom, mašinom.

Realnost je manje dramatična, ali uzbudljivija. Botovi su autonomni agenti prvobitno programirani da obavljaju kućne zadatke na komunikacionim kanalima ili da pokušaju da prođu Tjuringov test. Mogu da vas prijave, da vas izbace ako se loše ponašate, da drže sobe za ćaskanje otvorene kada nikog nema kod kuće, da daju informacije i da se maskiraju u ljude. U sistemu Internet Relay Chat, bot Eggdrop je bio najomiljeniji svih vremena.

Unuci ovakvih botova domara ugrađeni su u moderne agente za pretragu i glasnike i imaju mogućnosti veštačke inteligencije. Oni razgovaraju sa korisnicima kao ljudi, odgovaraju na rutinska pitanja i nude savete. Ako se čini da vaš telefon poznaje vaš um i izvlači prave stvari bez potrebe da ga se pita, veliki deo zasluga mora pripasti botovima koji rade iza kulisa. Kao i ljudi, botovi mogu da uče iz iskustva i predodređeni su za veće stvari u stvarnim situacijama.



Alis i Bob, Facebook botovi koji su stekli sramotu zbog neočekivanog nedostatka u logici programiranja, deo su eksperimenta za izgradnju pregovaračkih mašina. Jednostavno su smišljali kako da podele skup predmeta, kao što su lopte, tako da se nijedna strana ne bi osećala prevarenom. Cenkajući se, Alisa je davala u početku nerazumljive izjave tipa, Mudice imaju nulu meni meni meni meni meni meni meni... I usledili su strašni naslovi.

Učenje je vođeno podsticajima, kao što nastavnici i roditelji znaju. U ovom slučaju definisan je sistem nagrađivanja vežbe — bolji udeo i obostrano zadovoljstvo, suština cenjkanja. Ali nije bilo podsticaja za botove da nastave da komuniciraju na engleskom, što je notorno nelogičan jezik. Tako su skliznuli u pojednostavljeni, efikasniji argot nalik novogovoru, koji nije baš engleski, ali nije nerazumljiv kao što se reklamira.

Alisina izjava, koja je pogrešno protumačena kao tvrdnja o nezavisnosti mašine, samo je ukazivala na užasnutost zbog toga što je kratko promenjena (imam nulu), i svaka je za mene predstavljala objekat koji je zahtevala. Radila je upravo posao za koji je bila programirana: cenjkala se teško kao prodavac na istanbulskom Velikom bazaru. A ako je otkrila da je kraljičin engleski stao na put, nije bila sama. Mnoge rase bivših kolonija smatrale su da glavni jezik ometa komunikaciju u njihovim zajednicama.

Samo profesionalni ljudski pregovarači treba da budu zabrinuti ako giganti iz Silicijumske doline ulažu u programe pregovaranja. Teroristi i samitaši takođe bi trebalo da se plaše penzije, jer u situacijama sa taocima i međunarodnim ugovorima, mogu se naći suočeni sa nedokučivom, neumoljivom mašinom koja je mnogo pametnija od Deep Blue, IBM-ovog superkompjutera koji je izazvao šahovskog šampiona Garija Kasparova 1996.

Poriv za razvojem privatnih jezika je veoma ljudska osobina. Pre nego što su berze kompjuterizovane, berzanski mešetari na trgovačkom prostoru su prenosili ponude ručnim signalima koji su drugima bili nerazumljivi. Vekovima su organi za sprovođenje zakona bili zbunjeni lopovima, veštačkim jezicima osuđenika koji su besmislica za njihove tamničare. Među kriminalcima iz 20. veka koji govore engleski, besmislica reč arkitnay je značila: Umukni, neko prisluškuje. U Indiji, Vilijam Henri Sliman je proučavao Ramaseeanu, pesmu Thuggeeja, i objavio rečnik 1836. Jedna od najmanje izvođenih, ali najintrigantnijih drama Toma Stoparda je Dogov Hamlet, u kojoj školarci izvode Šekspira na svom jeziku, Dogu. Bilo je nešto kao transpoziciona šifra. Na primer, popodne je značilo zdravo u Dogu.

Ne obazirite se na proroke, ono što je interesantno u vezi sa Alisom i Bobom je da su, stvarajući jezik, izdali veoma ljudsku osobinu, koju nisu eksplicitno programirani da pokažu. Pre šezdeset godina, prvi botovi su napisani da istraže upravo ovo pitanje: da li se mašine mogu programirati da se ponašaju kao ljudi? Da li bi mogli da prođu Tjuringov test? Naveden u članku iz 1950. pod naslovom „Računarska mašina i inteligencija“, Tjuring je u suštini sugerisao da ako se komunikacija mašine čini ljudskim, onda se mašina treba smatrati čovekom.

Prvi bot za obradu prirodnog jezika koji je izašao iz laboratorije i stekao masovnu popularnost bila je Eliza, koju je 1964. kreirao Džozef Vajzenbaum sa MIT-a. Napisao ju je da bi pokazao da tekstualna komunikacija čoveka i mašine ne može da se podigne na nivo ljudskog razgovora. Naprotiv, Eliza je podigla očekivanja javnosti da će proći Tjuringov test. Trideset godina kasnije, još veće nade je inspirisala Julija, koju je stvorio osnivač Lycosa Majkl Moldin da se takmiči za Loebnerovu nagradu, Sveti gral Tjuringovog testiranja. Ali dalje od tačke, Julijini razgovori su se pretvorili u nasumična razmišljanja o svojstvima pasa i mačaka (možete razgovarati sa njenom modernom verzijom na scratch.mit.edu/projects/2208608).

Sada su botovi sa kreativnim jezičkim veštinama osvojili popularnu maštu, ponovo rasplamsavajući strepnju zbog robotike. Ali razvoj Google-ove AI laboratorije je zapravo uzbudljiviji. U septembru 2016. Google je pokrenuo svoj sistem neuronskog mašinskog prevođenja, koji primenjuje duboko učenje na jezik. Dva meseca kasnije, gurnuli su omotnicu: Ako je mašina naučila da prevodi, recimo, između hindskog i nemačkog, i između hindskog i engleskog, da li bi mogla da prevodi između engleskog i nemačkog bez bridge jezika hindi? Moglo bi, što sugeriše da je neuronska mreža naučila nešto fundamentalno o tome kako um povezuje koncepte i gramatike da bi krivotvorio jezike. Mala, žuta, vavilonska riba nalik pijavicama, živi univerzalni prevodilac o kome je izmislio Daglas Adams kasnih sedamdesetih, sada lebdi pored vašeg uha.

Naravno, pošto ne postoji dugoročna prognoza za veštačku inteligenciju, treba posvetiti dužnu pažnju upozorenjima ljudi koji bi trebalo da znaju bolje, poput Elona Maska i Stivena Hokinga. Trebalo bi da postoji regulacija, uprkos protestima zagovornika slobode inovacija, poput Marka Zakerberga. I treba da se razvije opšti konsenzus, dogovor oko linija koje se ne smeju preći, kao u slučaju intervencija u ljudski genom. Ali ne može se poreći da eksperimenti na Fejsbuku i Guglu unapređuju prvobitnu svrhu veštačke inteligencije, koja je bila da modelira i razume aspekte ljudskog uma. Jezive medijske priče koje privlače prolazne su senzacije. Sledećeg dana su pogodni za umotavanje ribe.