Nisam se micao i jedva sam disao... Mora da su mi već izgubili trag... Izvukao sam se iz skrovišta i susreo se licem u lice s jednim od njih... Vrištao je, ali se nije mogao pomaknuti. .. Igra se opet srušila

Umjetna inteligencija (AI) u video igrama je nešto što većina nas ne primjećuje dok se ne pokvari. Nevidljivo je prisutan u svemu, utječe na naše iskustvo igranja, na našu percepciju svakog trenutka igre, ali je jedan od najpodcijenjenijih elemenata videoigara. AI je začin koji igri daje okus, uranja nas u svijet igre kao ništa drugo.

Pojam "umjetna inteligencija" svatko razumije na svoj način. Ovaj se izraz može odnositi na softverske procese koji kontroliraju likove u igri, pojedinačne objekte u igri, ili čak protivnike koje nikada ne vidite (kao u strateškim igrama u stvarnom vremenu).

Osvrnimo se na Alien: Isolation. Ako zanemarimo slučajne padove, recimo da je to sjajna igra! Jedna od rijetkih filmskih igrica koje vam omogućuju da se osjećate kao da ste u filmu. Alien: Izolacija čini da se stvarno osjećate kao da ste u filmu o Alienima. Svaki film o Alienima ima jasan cilj: riješiti se vanzemaljca. Mnogi izolirani trenuci u filmovima mogli bi se pretvoriti u zanimljivu igru, bilo da se Dallas penje kroz otvore s bacačem plamena ili Ripley nabija kraljicu mehaničkim utovarivačem. Ovi filmovi, kao i video igrice, vrlo su energični, njihov svemir je vrlo pogodan za "gaming".

Igra Alien: Isolation snažna je upravo u svojoj umjetnoj inteligenciji. Alien bi trebao djelovati na način da se igrač osjeća kao sudionik u filmovima o Alienima.Sam Alien je složeno stvorenje, koje daje mnogo mogućnosti igranja. Skriva se promišljenim korištenjem dizajna prostora. Kreće se kroz ventilaciju, neočekivano napadajući igrače. Mrzi vatru, pa protiv njega možemo koristiti bacače plamena. Istovremeno, igra postavlja određene granice težine. Znamo kako to funkcionira životni ciklus Vanzemaljci. Znamo da krvare kiselinu. Znamo za njihovu kolektivnu inteligenciju. Drugim riječima, filmovi o Alienima stvorili su uvjerljiv sandbox za programere igara.

Svaka odluka koju donesete u Izolaciji vraća se Outsideru. Kako se skrivaš? Kako se koristi dragocjeno gorivo za bacanje plamena? Koliko dugo čekaš da ode? Suočavate se sa pravim, živim vanzemaljcem koji će se ponašati i razmišljati kao vanzemaljac. Nevjerojatno je, zastrašujuće i nevjerojatno u isto vrijeme!

Većina igrača i programera vjeruje da je "jaka AI" u biti nemoguća. To bi značilo da bi trebao biti jednak ili čak superiorniji od ljudske inteligencije. Teško da bi bilo ugodno igrati se s ovim.

Snažan AI bit će vrlo sličan drugom igraču, s istim ciljevima igre: htjet će pobijediti. Dobra umjetna inteligencija ne želi pobijediti, ona želi da naporno radite kako biste zaradili svoje dobitke. Zato Alien nije toliko realistična simulacija najvećeg filmskog čudovišta koliko je rekreacija doživljaja.

U Izolaciji, Alien je gotovo uvijek u blizini. Naravno, možete mu nakratko odvratiti pažnju, ili se premjestiti iz jedne sobe u drugu, ali uvijek će završiti u blizini. Većinu vremena, Alien se ponaša uvjerljivo, osim u rijetkim prilikama kada se neobjašnjivo zadržava u jednoj prostoriji dok vi zadržavate dah, nadajući se da će otići kako biste mogli ispuzati iz ormara.

Čini se da vanzemaljac uvijek zna vašu približnu lokaciju, što vas drži u neizvjesnosti i neizvjesnosti. On vas ne primijeti odmah (osim rijetkih "propusta") ako ne zakažete stealth. Ovo je vrlo zgodno za održavanje atmosfere horor filma, ali ponekad se trenutak odugovlači i igra se počinje "lažirati". Ponekad je igra toliko fokusirana na stvaranje napetosti da zaboravlja na puno važniju stvar – uranjanje.

Smiješno je, ali zbog marketinške zebnje riječ "uronjenost" gotovo je izgubila svoje značenje. Sada se svaka igra koja može zadržati pozornost može pohvaliti "uranjanjem". Ali značenje je drugačije od samog početka: kada zaronite u ocean, postojite unutar oceana.

Devedesetih godina prošlog stoljeća pojavio se koncept "Immersive Sim" (simulacija uranjanja). Ideja je bila da igrači mogu postojati u svijetu igre i tretirati ga kao stvarnost. Najpoznatiji od "immerzivnih simova" 90-ih bili su System Shock i Thief: The Dark Project. Obje ove igre razvio je Looking Glass Studios i obje su imale snažan fokus na umjetnoj inteligenciji.

Igra bez dobrog AI-a je poput zbirke praznih filmova. Cijela zbirka je dobra, ali film se temelji na svojim likovima. Sjajan AI udahnjuje život likovima igre i njezinom svijetu. Ovo je najvažnija komponenta u igranju impresivnog filmskog iskustva.

Za dobar primjer "immerzivnog sim-a" u akciji, pogledajmo Thief: The Dark Project. Igra je smještena u svijet mašte, a vi igrate kao lopov po imenu Garrett. Jedna misija vas šalje u podzemne ruševine. Područje karte naseljeno je posebnim zombijima. Ne mogu se zdrobiti u komadiće, kao obične. Ponovno se pojavljuju ubrzo nakon što ih ubijete. Jedini način da ih se stvarno riješite je da koristite svetu vodu na svojim skupim vodenim strelicama, koje obično gase baklje, omogućujući vam da se sakrijete u mraku. Kada vas zombi uoči, zaurla, upozoravajući druge zombije, koji urlaju za sljedeći. Tako je bilo moguće prikupiti gomilu svih zombija na razini. Ako nije bilo dovoljno strijela ili svete vode, trebalo je razmisliti o planu.

Na primjer, bilo je moguće ušuljati se na balkon iznad sobe s dva ili tri zombija, tajno pucati u jednog kako bi on urlanjem pozvao sve zombije u sobu, a zatim ih počeo gađati svetom vodom

Odnosno, igra je stvorila prostor, stvorila neprijatelje koji su imali logičan skup pravila i na koje se mogla primijeniti vrlo stvarna logika.

Stoga igra s dobrom umjetnom inteligencijom djeluje više kao Thief nego Isolation. Napetost je vrlo važna za igru ​​Aliena, ali uranjanje mora biti temelj. Ako igra prestane biti vjerodostojna, više nije tako strašna.

Naravno, da bi uranjanje djelovalo, moramo se upustiti u trikove redatelja ili programera. Film o Alienima neće uspjeti ako nam netko ispred ekrana kaže da vanzemaljac zapravo nije izašao iz ljudskih grudi. Stoga, da bi funkcionirao, Alien: Isolation nas mora natjerati da vjerujemo u njegovu stvarnost. Igra bi trebala biti interaktivna, odnosno čak realističnija od bilo kojeg filma. Igra mora biti uzbudljiva. Pravila moraju imati smisla i biti dosljedna.

Ako vi ili igra prekinete taj odnos, igra prestaje biti zastrašujuća i iskustvo se raspada. Kada se ljudi koji love igrača iznenada smrznu, ili kada se vanzemaljac "teleportira" iza njihovih leđa, to prekida uranjanje i povlači se iz iskustva igre. On prestaje biti strašan, što je ponajprije cijela poanta Aliena.

Igramo igre Aliena jer želimo doživjeti Alien iskustvo. Kada se AI pokvari ili "zabrblja", uranjanje se gubi i igra se raspada. Ali kada AI proradi kako treba, postajemo Ripley, skrivamo se u ormariću, zadržavamo dah, čekajući da čudovište ode.

Umjetna inteligencija - in novije vrijeme jedna od najpopularnijih tema u svijetu tehnologije. Umovi poput Elona Muska, Stephena Hawkinga i Stevea Wozniaka ozbiljno su zabrinuti zbog istraživanja umjetne inteligencije i tvrde da nam njeno stvaranje prijeti smrtnom opasnošću. U isto vrijeme, znanstvena fantastika i holivudski filmovi stvorili su mnogo zabluda oko AI. Jesmo li doista u opasnosti i kakve netočnosti činimo kada zamišljamo uništenje Skyneta Zemlje, opću nezaposlenost ili obrnuto, blagostanje i nemar? Gizmodo je razotkrio ljudske mitove o umjetnoj inteligenciji. Ovdje je cijeli prijevod njegovog članka.

Nazivaju ga najvažnijim testom strojne inteligencije otkako je Deep Blue prije 20 godina pobijedio Garryja Kasparova u šahovskom meču. Google AlphaGo pobijedio je velemajstora Lija Sedola na Go turniru s poraznim rezultatom 4:1, pokazujući koliko je umjetna inteligencija (AI) ozbiljno napredovala. Sudbonosni dan kada su strojevi konačno nadmašili ljudski um nikada se nije činio tako blizu. No, čini se da nismo ni blizu razumijevanja posljedica ovog epohalnog događaja.

Zapravo, držimo se ozbiljnih, pa čak i opasnih zabluda o umjetnoj inteligenciji. Prošle godine osnivač SpaceX-a Elon Musk je upozorio da bi umjetna inteligencija mogla zavladati svijetom. Njegove riječi izazvale su buru komentara, kako protivnika, tako i pobornika ovog mišljenja. Što se tiče takvog budućeg monumentalnog događaja, postoji začuđujuća količina prijepora hoće li se dogoditi, i ako hoće, u kojem obliku. To je posebno zabrinjavajuće kada uzmete u obzir nevjerojatne koristi koje bi čovječanstvo moglo dobiti od AI-a i potencijalne rizike. Za razliku od drugih ljudskih izuma, AI ima potencijal promijeniti čovječanstvo ili nas uništiti.

Teško je znati u što vjerovati. Ali zahvaljujući ranom radu računalnih znanstvenika, neuroznanstvenika, teoretičara umjetne inteligencije, počinje se nazirati jasnija slika. Evo nekih uobičajenih zabluda i mitova o umjetnoj inteligenciji.

Mit br. 1: "Nikada nećemo stvoriti umjetnu inteligenciju s ljudskom inteligencijom"

Stvarnost: Već imamo računala koja su izjednačila ili premašila ljudske mogućnosti u šahu, Gou, trgovanju dionicama i razgovoru. Računala i algoritmi koji ih pokreću mogu biti samo bolji. Samo je pitanje vremena kada će nadmašiti ljude u bilo kojem zadatku.

Istraživački psiholog s NYU-a Gary Marcus rekao je da “doslovno svi” koji rade u AI-ju vjeruju da će nas strojevi na kraju pobijediti: “Jedina prava razlika između entuzijasta i skeptika je procjena vremena.” Futuristi poput Raya Kurzweila misle da bi se to moglo dogoditi u roku od nekoliko desetljeća, drugi kažu da bi to moglo potrajati stoljećima.

Skeptici AI nisu uvjerljivi kada kažu da je to nerješiv tehnološki problem, a da postoji nešto jedinstveno u prirodi biološkog mozga. Naši su mozgovi biološki strojevi – postoje u stvarnom svijetu i pridržavaju se osnovnih zakona fizike. Nema ništa nespoznatljivo o njima.

Mit #2: "Umjetna inteligencija će imati svijest"

Stvarnost: Većina zamišlja da će um stroja biti svjestan i misliti kako ljudi misle. Štoviše, kritičari poput suosnivača Microsofta Paula Allena vjeruju da još ne možemo postići umjetnu opću inteligenciju (sposobnu riješiti bilo koji mentalni problem koji čovjek može riješiti) jer nam nedostaje znanstvena teorija svijesti. No, kako kaže Murray Shanahan, stručnjak za kognitivnu robotiku na Imperial Collegeu u Londonu, ne bismo trebali izjednačavati ta dva koncepta.

“Svijest je svakako nevjerojatna i važna stvar, ali ne vjerujem da je potrebna za umjetnu inteligenciju na ljudskoj razini. Točnije, riječ "svijest" koristimo za označavanje nekoliko psiholoških i kognitivnih osobina koje osoba "dolazi u kompletu", objašnjava znanstvenik.

Može se zamisliti inteligentni stroj kojem nedostaje jedna ili više ovih osobina. Na kraju, možemo stvoriti nevjerojatno pametnu umjetnu inteligenciju koja neće moći subjektivno i svjesno percipirati svijet. Shanahan tvrdi da se um i svijest mogu kombinirati u stroju, ali ne smijemo zaboraviti da su to dva različita koncepta.

Činjenica da stroj prolazi Turingov test, u kojem se ne razlikuje od čovjeka, ne znači da ima svijest. Nama se napredni AI može činiti svjesnim, ali njegova samosvijest neće biti ništa više od one kamena ili kalkulatora.

Mit br. 3: "Ne bismo se trebali bojati umjetne inteligencije"

Stvarnost: U siječnju je osnivač Facebooka Mark Zuckerberg rekao da se ne trebamo bojati umjetne inteligencije, jer će učiniti nevjerojatnu količinu dobrih stvari za svijet. Napola je u pravu. Izvući ćemo ogromne koristi od umjetne inteligencije, od samovozećih automobila do novih lijekova, ali ne postoji jamstvo da će svaka implementacija AI biti benigna.

Visoko inteligentan sustav može znati sve o određenom zadatku, kao što je rješavanje neugodnog financijskog problema ili hakiranje u neprijateljski obrambeni sustav. Ali izvan granica tih specijalizacija, ona će biti duboko neznalica i nesvjesna. Googleov DeepMind sustav je stručnjak za Go, ali nema mogućnost ni razloga istraživati ​​područja izvan svoje specijalnosti.

Mnogi od ovih sustava možda neće biti podložni sigurnosnim razmatranjima. Dobar primjer je složen i moćan virus Stuxnet, paravojni crv koji su razvile izraelska i američka vojska za infiltriranje i sabotiranje iranskih nuklearnih elektrana. Ovaj virus je nekako (namjerno ili slučajno) zarazio rusku nuklearnu elektranu.

Drugi primjer je program Flame koji se koristi za cyber špijunažu na Bliskom istoku. Lako je zamisliti buduće verzije Stuxneta ili Flamea koje prekoračuju svoje ciljeve i nanose ogromnu štetu osjetljivoj infrastrukturi. (Radi razumijevanja, ovi virusi nisu AI, ali u budućnosti bi ga mogli imati, otuda i zabrinutost).

Virus Flame je korišten za cyber špijunažu na Bliskom istoku. Fotografija: Wired

Mit #4: "Umjetna superinteligencija bit će previše pametna da bi pogriješila"

Stvarnost: Istraživač umjetne inteligencije i osnivač Surfing Samurai Robots Richard Lucimore vjeruje da je većina scenarija sudnjeg dana povezanih s umjetnom inteligencijom nedosljedna. Uvijek su izgrađeni na pretpostavci da AI kaže: "Znam da je uništenje čovječanstva uzrokovano nedostatkom u dizajnu, ali to ipak moram učiniti." Lucimore kaže da ako se AI ponaša na ovaj način, govoreći o našem uništenju, onda će ga takve logične kontradikcije proganjati cijeli život. To, zauzvrat, degradira njegovu bazu znanja i čini ga previše glupim da bi stvorio opasnu situaciju. Znanstvenik također tvrdi da su ljudi koji kažu: "AI može učiniti samo ono za što je programiran" jednako u zabludi kao i njihovi kolege u zoru računalnog doba. Tada su ljudi koristili ovu frazu kako bi tvrdili da računala nisu sposobna pokazati ni najmanju fleksibilnost.

Peter McIntyre i Stuart Armstrong, koji rade na Institutu za budućnost čovječanstva na Sveučilištu Oxford, ne slažu se s Lucimoreom. Oni tvrde da je AI u velikoj mjeri vezan načinom na koji je programiran. McIntyre i Armstrong vjeruju da AI ne može pogriješiti ili biti previše glup da ne zna što očekujemo od njega.

“Po definiciji, umjetna superinteligencija (AI) je entitet s inteligencijom daleko većom od najboljeg ljudskog mozga u bilo kojem području znanja. On će točno znati što smo htjeli da učini”, kaže McIntyre. Oba znanstvenika vjeruju da će AI raditi samo ono za što je programiran. Ali ako postane dovoljno pametan, shvatit će koliko se to razlikuje od duha zakona ili namjera ljudi.

McIntyre je usporedio buduću situaciju ljudi i AI s trenutnom interakcijom čovjeka i miša. Svrha miša je traženje hrane i skloništa. Ali često se kosi sa željom osobe koja želi da njegova životinja slobodno trči oko njega. “Dovoljno smo pametni da razumijemo neke svrhe miševa. Dakle, ASI će također razumjeti naše želje, ali biti ravnodušan prema njima “, kaže znanstvenik.

Kao što pokazuje radnja filma Ex Machina, osobi će biti iznimno teško zadržati pametniji AI

Mit br. 5: “Jednostavna zakrpa će riješiti problem kontrole AI”

Stvarnost: Stvaranjem umjetne inteligencije pametnije od ljudi, suočit ćemo se s problemom poznatim kao "problem kontrole". Futuristi i teoretičari umjetne inteligencije padaju u stanje potpune zbunjenosti kada ih pitaju kako ćemo zadržati i ograničiti ASI ako se pojavi. Ili kako osigurati da je prijateljski nastrojen prema ljudima. Nedavno su istraživači s Instituta za tehnologiju u Georgiji naivno sugerirali da bi umjetna inteligencija mogla usvojiti ljudske vrijednosti i društvena pravila čitanjem jednostavne priče. U stvarnosti će biti puno teže.

Predloženo je mnogo jednostavnih trikova koji bi mogli 'riješiti' cijeli problem kontrole umjetne inteligencije,” kaže Armstrong. Primjeri uključuju programiranje ASI-ja tako da mu je svrha ugoditi ljudima ili da jednostavno funkcionira kao alat u rukama osobe. Druga mogućnost je integrirati koncepte ljubavi ili poštovanja u izvorni kod. Kako bi se spriječilo AI da usvoji pojednostavljen, jednostran pogled na svijet, predloženo je da se programira tako da cijeni intelektualnu, kulturnu i društvenu raznolikost.

Ali ova rješenja su prejednostavna, kao pokušaj da se složenost ljudskih simpatija i nesklonosti stisne u jednu površnu definiciju. Pokušajte, na primjer, smisliti jasnu, logičnu i izvedivu definiciju “poštovanja”. Ovo je izuzetno teško.

Strojevi u Matrixu lako bi mogli uništiti čovječanstvo

Mit #6: "Umjetna inteligencija će nas uništiti"

Stvarnost: Nema jamstva da će nas AI uništiti, ili da nećemo moći pronaći način da ga kontroliramo. Kao što je teoretičar umjetne inteligencije Eliezer Yudkowsky rekao: "AI vas niti voli niti mrzi, ali ste napravljeni od atoma koje može koristiti u druge svrhe."

U svojoj knjizi Umjetna inteligencija. Faze. Prijetnje. Strategije”, napisao je filozof s Oxforda Nick Bostrom da će prava umjetna superinteligencija, nakon što se pojavi, predstavljati veći rizik od bilo kojeg drugog ljudskog izuma. Eminentni umovi poput Elona Muska, Billa Gatesa i Stephena Hawkinga (potonji je upozorio da bi AI mogla biti naša "najgora pogreška u povijesti") također su izrazili zabrinutost.

McIntyre je rekao da u većini ciljeva kojima se ISI može voditi, postoje dobri razlozi da se ljudi riješe.

“AI može predvidjeti, sasvim točno, da ne želimo da maksimizira profit određene tvrtke, bez obzira na troškove kupaca, okoliša i životinja. Stoga ima snažan poticaj da se pobrine da ga ne ometaju, ne ometaju, isključuju ili mijenjaju u svojim ciljevima, jer to ne bi ispunilo njegove izvorne ciljeve”, kaže McIntyre.

Osim ako ciljevi ASI-ja točno ne odražavaju naše, tada će imati dobar razlog da nam ne da priliku da to zaustavimo. S obzirom da je njegova razina inteligencije znatno bolja od naše, ne možemo ništa učiniti po tom pitanju.

Nitko ne zna u kakvom će obliku AI poprimiti i kako bi mogao ugroziti čovječanstvo. Kao što je Musk primijetio, umjetna inteligencija može se koristiti za kontrolu, regulaciju i praćenje druge umjetne inteligencije. Ili može biti prožeta ljudskim vrijednostima ili prevashodnom željom da se bude prijateljski nastrojen prema ljudima.

Mit #7: "Umjetna superinteligencija će biti prijateljska"

Stvarnost: Filozof Immanuel Kant vjerovao je da je razum u snažnoj korelaciji s moralom. Neuroznanstvenik David Chalmers, u svojoj studiji Singularnost: filozofska analiza, preuzeo je Kantovu poznatu ideju i primijenio je na novu umjetnu superinteligenciju.

Ako je to istina... možemo očekivati ​​da će intelektualna eksplozija dovesti do eksplozije morala. Tada možemo očekivati ​​da će ASI sustavi u nastajanju biti supermoralni i superinteligentni, što nam omogućuje da od njih očekujemo dobrotu.

Ali ideja da će napredna AI biti prosvijetljena i ljubazna sama po sebi nije baš uvjerljiva. Kao što je Armstrong istaknuo, tamo ima mnogo pametnih ratnih zločinaca. Čini se da među ljudima ne postoji veza između razuma i morala, pa on dovodi u pitanje djelovanje ovog principa među ostalim inteligentnim oblicima.

“Pametni ljudi koji se ponašaju nemoralno mogu uzrokovati bol u mnogo većim razmjerima od njihovih glupljih kolega. Inteligencija im samo omogućuje da budu loši uz veliku inteligenciju, ne pretvara ih u dobre ljude", kaže Armstrong.

Kako je McIntyre objasnio, sposobnost subjekta da postigne cilj nije povezana s time bi li taj cilj bio razuman za početak. “Bit ćemo jako sretni ako su naše umjetne inteligencije jedinstveno nadarene i njihova razina morala raste zajedno s umom. Nadati se sreći nije najbolji pristup onome što bi moglo odrediti našu budućnost”, kaže.

Mit #8: “Rizici umjetne inteligencije i robotike su jednaki”

Stvarnost: Ovo je osobito česta pogreška koju propagiraju nekritički mediji i holivudski filmovi poput Terminatora.

Kad bi umjetna superinteligencija poput Skyneta zaista htjela uništiti čovječanstvo, ne bi koristila androide s mitraljezi sa šest cijevi. Puno učinkovitije bi bilo slanje biološke kuge ili nanotehnološke sive sluzi. Ili jednostavno uništite atmosferu.

Umjetna inteligencija je potencijalno opasna ne zato što može utjecati na razvoj robotike, već zbog toga kako će njezin izgled utjecati na svijet općenito.

Mit #9: "Prikaz AI u znanstvenoj fantastici točan je prikaz budućnosti"

Mnoge vrste umova. Slika: Eliezer Yudkowsky

Naravno, autori i futuristi su koristili znanstvenu fantastiku kako bi napravili fantastična predviđanja, ali horizont događaja koji postavlja ASI sasvim je druga priča. Štoviše, neljudska priroda umjetne inteligencije onemogućuje nam da znamo, pa stoga i predvidimo, njezinu prirodu i oblik.

Kako bismo zabavili nas glupe ljude, većina AI u znanstvenoj fantastici prikazana je kao mi. “Postoji spektar svih mogućih umova. Čak se i među ljudima prilično razlikujete od svojih susjeda, ali ova varijacija nije ništa u usporedbi sa svim inteligencijama koje mogu postojati”, kaže McIntyre.

Većina znanstvene fantastike ne mora biti znanstveno točna da bi ispričala uvjerljivu priču. Sukob se obično odvija između junaka koji su bliski po snazi. "Zamislite kako bi priča bila dosadna, gdje bi AI bez svijesti, radosti ili mržnje dokrajčio čovječanstvo bez ikakvog otpora da postigne nezanimljiv cilj", zijeva Armstrong.

U tvornici Tesla radi stotine robota

Mit br. 10: "Užasno je što će AI uzeti sav naš posao"

Stvarnost: Sposobnost umjetne inteligencije da automatizira mnogo onoga što radimo i njezin potencijal da uništi čovječanstvo dvije su vrlo različite stvari. No, prema Martinu Fordu, autoru knjige In the Dawn of Robots: Technology and the Threat of a Jobless Future, često se promatraju kao cjelina. Dobro je razmišljati o dalekoj budućnosti AI aplikacija, ali samo ako nas to ne odvrati od problema s kojima ćemo se morati suočiti u narednim desetljećima. Glavna među njima je masovna automatizacija.

Nitko ne sumnja da će umjetna inteligencija zamijeniti mnoga postojeća radna mjesta, od tvorničkog radnika do viših ešalona bijelog ovratnika. Neki stručnjaci predviđaju da će polovica svih radnih mjesta u SAD-u biti ugrožena automatizacijom u bliskoj budućnosti.

Ali to ne znači da ne možemo podnijeti šok. Općenito, riješiti se većine našeg posla, i fizičkog i mentalnog, kvazi-utopijski je cilj naše vrste.

"Unutar nekoliko desetljeća, AI će izbrisati mnogo poslova, ali to nije loše", kaže Miller. Samovozeći automobili zamijenit će vozače kamiona, smanjujući troškove dostave i, kao rezultat, činiti mnoge proizvode jeftinijim. “Ako ste vozač kamiona i živite od toga, izgubit ćete, ali naprotiv, svi ostali će moći kupiti više robe za istu plaću. A novac koji uštede bit će potrošen na druga dobra i usluge koje će ljudima otvoriti nova radna mjesta”, kaže Miller.

Vjerojatno će umjetna inteligencija stvoriti nove mogućnosti za proizvodnju dobra, oslobađajući ljude da rade druge stvari. Napredak u razvoju AI bit će popraćen napretkom u drugim područjima, posebice u proizvodnji. U budućnosti će nam biti lakše, a ne teže zadovoljiti svoje osnovne potrebe.

Uvod

Tražeći podrijetlo ideja umjetne inteligencije, može se navesti mnoge činjenice i mitovi. Počevši od starogrčkog robota Talosa, kojeg je stvorio Zeus za čuvanje otoka Krete, ili Charlesa Babbagea s Adom Lovelace i njihovim analitičkim strojem iz sredine 19. stoljeća, pa do ideja Minskyja i McCartneyja, koji su stvorili modernu definiciju AI-a kao bilo koje radnje koju izvodi program ili stroj, za koju bismo, da je izvodi neka osoba, rekli da treba pokazati inteligenciju ili domišljatost.

Za mene se podrijetlo rađanja umjetne inteligencije vidi u knjizi Galilea Galileija iz 1683. "Razgovori i matematički dokazi dviju novih znanosti".

U ovoj knjizi Galileo je posebno napisao da je sve na svijetu, uključujući prirodni fenomen, može se izraziti u terminima matematike. Ispada da za bilo koju pojavu ili radnju možete smisliti algoritam. Dakle, umjetna inteligencija je skup algoritama za sve prilike. A jedna od glavnih sposobnosti AI bit će sposobnost samostalnog sintetiziranja novih algoritama na temelju dostupnih podataka.

U skraćenom obliku to je već moguće. Primjerice, Googleov AlphaGo, nakon što je analizirao bazu podataka od 30 milijuna poteza i nekoliko tisuća puta vježbao sam sa sobom, uspio je pobijediti najboljeg Go igrača na svijetu.

IBM obučava svoje superračunalo Watson kako bi pomogao liječnicima. Zadatak je naučiti računalo tražiti odgovore na pitanja postavljena na prirodnom jeziku, odnosno Watson uči provoditi medicinsko istraživanje. Svojevrsna igra diferencijalne dijagnoze, samo kompjuter umjesto dr. Housea. Zapravo, ovo je kraj priče. U svijesti stanovnika umjetna inteligencija je Jarvis iz stripa Iron Man, Terminator ili, u najgorem slučaju, RoboCop (u filmu je to dodani AI koji pomaže kiborgu da puca vrlo brzo i precizno). Takva opcija, naravno, ima mjesto za biti, ali počnimo s onim što je danas dostupno.

Koje vrste AI danas postoje?

Općenito, sve vrste AI mogu se podijeliti u dvije kategorije – slaba ili ograničena AI i opća ili jaka AI.

Slab AI

Zapravo, imena govore sama za sebe. AI je danas prvi tip – ograničen, odnosno intelekt je izoštren za određene zadatke. Primjerice, kada Samsung obećava da će do 2020. svaki njegov uređaj imati AI, podrazumijeva se upravo ograničena opcija. Primjeri su Siri ili Alice, koji mogu raditi točno ono za što su programirani. Alice čak odgovara na ovaj način kada nešto ne zna ili ne može učiniti: "Programer mi je obećao da će me to naučiti kasnije."

Isti tip uključuje Google i Yandex karte koje analiziraju prometne gužve i iscrtavaju rute, kamere koje prepoznaju prizore, inteligentnu pećnicu koja samostalno regulira razinu topline i robot-usisavač koji, kako god objasnili, može samo usisavati, ali neće dati papuče.

I do sada je ovaj ograničeni AI jedina vrsta umjetne inteligencije kojom je čovječanstvo ovladalo. Slaba umjetna inteligencija može se podijeliti na ključne zadatke na kojima stručnjaci danas rade. To:

• prepoznavanje govora;
• računalni vid;
• obrada prirodnog jezika;
• traženje uzoraka ili analizu podataka;
• robotika.

Da biste postigli rješenje ovih problema, odnosno naučili neki AI razumjeti vaše riječi i prepoznati slike, postoje dva načina.

1. simbolički pristup.

   Ovaj pristup vodio je od kasnih 40-ih do ranih 90-ih. Metoda se temelji na onome što se mislilo da jest Najbolji način"Trenirati" AI znači hraniti ga što je moguće više znanja. Na primjer, ako govorimo u kontekstu medicine, onda se u AI učitavaju svakakvi udžbenici i baze znanja. A AI traži odgovore samo na temelju dostupnih informacija, obrađujući znanje samo prema pravilima koja je stvorio programer.

   Sukladno tome, ova vrsta AI je dobra za rješavanje statičkih problema. Na primjer, u njega se mogu učitati svi udžbenici ruskog jezika, a AI će moći dobro provjeravati eseje, pronalazeći pravopisne i interpunkcijske pogreške, a fokusirajući se na ortoepske norme, čak će moći izolirati govorne pogreške i nedostatke. Međutim, on će to učiniti samo na temelju pravila, odnosno ne razumijevanja konteksta, već izolirajući točan red riječi i pravopis.

   Drugi primjer je strojno prevođenje. Umjetna inteligencija obučena simbolima naoružana je svim vrstama rječnika i zbornika izraza. A ako se fraza koja mu je ponuđena za prijevod nalazi u jednom od njih, onda će je dobro prevesti, a ako nije, jednostavno će zamijeniti riječi, prijedloge i strukturu rečenice na temelju postavljenih pravila.

2. Strojno učenje ili nesimbolična umjetna inteligencija.

   Za razliku od simboličkog učenja, ova opcija učenja podrazumijeva da je umjetnoj inteligenciji pokazano kako riješiti određeni problem, nakon čega joj je dopušteno da slobodno lebdi. Ovako funkcioniraju neuronske mreže. Sjećam se da sam čitao o primjeru gdje je programer spojio AI za upravljanje prskalicama i naučio ga da vodom otjera susjedovu mačku koja je stekla naviku ići na zahod na travnjaku. Programer je AI pokazao puno fotografija s mačkama, nakon čega je umjetna inteligencija razvila refleks da uključi prskalicu svaki put kada mu se učini da vidi nešto što izgleda kao mačka. Sustav nije uvijek radio glatko. Čini se da se nekako upalila kada je AI zamijenio sjenu na pločniku za mačku.

   Ako govorimo o primjeru prijevoda, tada obučeni AI može pokušati razumjeti kontekst fraze i zamijeniti u prijevodu ne prvu riječ koja ispunjava osnovne zahtjeve, već onu koja, po njegovom mišljenju, bolje odražava stil, emocija, slenga ili nečeg drugog, na ono za što je školovan.

Danas većina programera radije koristi drugu vrstu – strojno učenje, jer može, da tako kažem, improvizirati. Na primjer, ako je autonomni automobil obučen prema prvom tipu, tada će voziti prema pravilima, ali ako se na cesti pojavi nepredviđena situacija, automobil će biti u poteškoćama. A automobil obučen strojnim učenjem može djelovati u skladu s okolnostima, sintetizirajući ideje na temelju prethodno unesenih informacija.

Tu nastaje problem. Jedna od ključnih važnih značajki simboličke AI je da sustav uvijek može objasniti zašto je donio određenu odluku. No u slučaju strojnog učenja sve nije lako. Zato istom tom UBER-u ili Tesli treba dugo da shvate zašto su njihovi automobili donijeli ovu ili onu odluku koja je izazvala nesreću.

Međutim, za iste automobile simbolično učenje nije prikladno, jer se sva pravila za AI unose ručno, odnosno, relativno govoreći, trebate zapisati sve opcije za automobil - osoba je istrčala na cestu, a kolica su se otkotrljala, izletjela kutija itd. Zaboravio je nešto zapisati, a odjednom se ispostavilo da je auto udario losa, jer o njemu ništa nije pisalo u pravilniku, dok će AI stroja moći pogoditi da ne možete oboriti sve četveronoške one.

Slaba umjetna inteligencija, kao što vidite, unatoč svojim ograničenjima, ima mnogo primjena – od pametne tehnologije, preko samovozećih automobila, do obrade podataka s pokušajima predviđanja budućnosti. Inače, Google Duplex, koji može rezervirati stolove u restoranu, također je ograničeni AI, jer može raditi točno ono što su ga naučili.

Jaka AI (ja)

Ovdje već počinje područje hipoteza, budući da čovječanstvo još nije vidjelo ništa slično. Možda samo u utrobi Googlea ili IBM-a živi nešto poluinteligentno. Na posljednjoj Google I/O konferenciji, Fei Fei Li, vrlo pametna Kineskinja, voditeljica odjela za strojno učenje i umjetnu inteligenciju u Google Cloudu, rekla je da iako je prošlo više od 60 godina od istraživanja AI, ali znanost još uvijek je u ranoj fazi, a zasad možemo govoriti samo o postizanju majstorstva u razvoju ograničene AI.

Međutim, predlažem da malo sanjamo o jakoj umjetnoj inteligenciji i pokušamo odrediti kakav bi trebao biti i što bi trebao raditi. Vjeruje se da je jaka umjetna inteligencija pametna kao prosječna osoba, odnosno, u teoriji, može riješiti bilo koji problem.. A ako je prvi bio suočen sa zadatkom da uništi Johna Connora na bilo koji način, onda drugi žudi za maksimumom entropija. Terminator, ako je podzemna željeznica zatvorena, otići će autobusom ubiti Johna Connora, a ako se autobus pokvari, on će pješice ili pozvati taksi, a zlobnik će napisati da sve reklame, da autor ne razumije bilo što, pokušat će se baviti demagogijom i sofizmom. Zapravo, najviše od svega, vlade diljem svijeta sanjaju da se dočepaju jake umjetne inteligencije za provođenje vojnih operacija i sabotiranje američkih izbora s vojskom kompjuterskih trolova.

Google kaže da ako sve prođe kako treba, onda bi do 2050. mogao doći do iskora i pojavit će se prvi jaki AI.

Glavna slabost takvog AI-a je što, unatoč svim svojim sposobnostima, on i dalje ostaje relativno uskogrudan, poput prosječne osobe, ali, za razliku od osobe, jak AI pamti sve i bolje je orijentiran u traženju i obradi informacija.

super jak intelekt

Ovo je potpuno izvan domene fantazije. Na primjer, Friday / Jarvis iz Iron Mana može se pripisati jednostavno jakoj inteligenciji.

Ako se sjećate, u jednom od filmova glavni lik Tony Stark pokušao je izmisliti neki novi netoksični izvor energije kako bi ga stavio u svoja prsa. Jarvis mu je asistirao, ali samo je Tony Stark ionako mogao riješiti problem, jer AI nije imao dovoljno "razloga". Super-jaki intelekt moći će samostalno riješiti i većinu izazovni zadaci. Njemu će čovječanstvo postaviti pitanje, na koje će on odgovoriti "42", a onda će supermoćna AI sve ljude staviti u posude s tekućinom i stvoriti fenomen odabranog (ovo nije smeće, već aluzije na knjigu "Autostoperski vodič kroz galaksiju" i film "Matrix").

Trebam li se bojati umjetne inteligencije?

Unatoč svim znanstvenofantastičnim filmovima, ne treba se bojati, barem do pojave najnovije vrste AI. Međutim, morate se bojati ljudi koji se bave razvojem, jer se, zbog pogreške ili namjerno, u isti ograničeni AI može postaviti pravilo "ubiti sve ljude" umjesto "naučiti sve ljude". A onda je za umjetnu inteligenciju sve do malog - samo da razjasnimo značenje svih riječi u rječniku i prijeđemo na posao.

Međutim, razvoj čak i ograničene umjetne inteligencije već je doveo i još će dovesti do mnogih problema u modernom društvu.

Problem jedan

Jedan od problema je uništavanje tradicionalne ljestvice karijere, budući da razvoj AI dovodi do odbijanja poslova koji zahtijevaju prosječnu razinu vještina. Objasnit ću detaljnije. Za unos podataka u računalo potrebna nam je jeftina radna snaga, budući da, relativno govoreći, čovjek ipak zna bolje prepoznati “captcha”. Potrebni su nam i oni koji će donositi odluke na temelju računalno obrađenih podataka. Ali obični analitičari više nisu potrebni, jer analiziraju i proučavaju podatke na temelju naučenih algoritama. Na primjer, dok sam bio analitičar, imao sam 42 različite mogućnosti obrade podataka za izradu prognoza. Sve ove opcije bile su organizirane u zgodnu prezentaciju koju sam redovito spominjao kako bih shvatio koju metodu je najbolje upotrijebiti u danoj situaciji. Zamjena me AI-om čini se logičnim i opravdanim, jer će se puno brže nositi sa zadacima predviđanja. Sukladno tome, postoji jaz kada tradicionalna ljestvica karijere od mlađeg analitičara do menadžera nestane, budući da na dnu karijere praktički nema manevra za demonstriranje inteligencije.

Problem dva

Također, zbog AI će postupno doći do odbacivanja osnovnih zanimanja koja se mogu algoritmizirati, odnosno svesti na jednostavne radnje. Nešto slično sada se može primijetiti u Auchanu i Lenti, gdje se blagajne postupno zamjenjuju samoposlužnim aparatima, kao i jedan djelatnik koji pomaže u rješavanju nastalih problema te zaštitar koji održava red. Zaštitara će ubuduće zamijeniti nadzorne kamere koje čuvaju red. Ispada da će doći do smanjenja vrijednosti ljudi.

Profesije koje će vrlo vjerojatno zamijeniti AI: poštari, draguljari, drvosječe, farmeri, tvornički radnici, osiguravatelji

Pročitao sam da San Francisco donekle može poslužiti kao ilustracija ovog problema. Ovaj grad u SAD-u odabrala je tehnološka elita. Sukladno tome, gradsko gospodarstvo usmjereno je na zadovoljavanje potreba elite, ali ljudi koji nisu povezani s tehnološkom ekonomijom imaju ogromne probleme. Zarađuju puno manje, a sve su cijene u gradu postavljene za IT startupove. Obični ljudi ne mogu si priuštiti takve troškove, pa se ili sele ili pridruže ionako golemoj vojsci beskućnika.

Međutim, ovdje postoji ključna značajka koja će zadržati neke profesije. Umjetnoj inteligenciji su potrebni stvoreni uvjeti za rad. Na primjer, robot usisavač može se voziti samo po glatkim podovima i prevladati male neravnine. Sukladno tome, mnoge će osnovne profesije moći izdržati sve dok bude preteško i skupo stvoriti njihovu umjetnu zamjenu. Na primjer, u prostoriji u kojoj ima mnogo vrata, robot za čišćenje mora imati ili manipulatore za okretanje kvaka na vratima ili se sva vrata moraju automatski otvoriti. I jedno i drugo je prilično skupo, ali Sarhat iz srednje Azije ima ruke i pamet da se nosi s krpom i kvakom, ali nema registracije i zahtjeva za smanjenom plaćom.

Problem tri

Čak je i ograničena umjetna inteligencija uvelike potaknula fenomen slobodnog rada. Platforme za odabir i zapošljavanje udaljenih zaposlenika svake godine sve više cvjetaju. Primjerice, prema najnovijim statistikama, u Sjedinjenim Državama, prvom svjetskom gospodarstvu, 55 milijuna ljudi radi kao slobodnjaci.

A ovo je u sadašnjoj generaciji, obratite pozornost na ilustraciju. Sve veća radna snaga ne voli sjediti u uredu. Sukladno tome, doći će do pomaka u organizaciji rada. Tvrtke će se suočiti s izazovima u zapošljavanju i zadržavanju zaposlenika, jer zašto posvetiti život jednoj tvrtki kada ste dostupni online i posao možete tražiti po cijelom svijetu.

Problem četvrti

Prilično ozbiljan problem je društvena nejednakost, koju sam već spomenuo u problemu broj 2. Postat će sve gori. Pretpostavljam da ste iz članka pogodili da da biste bili uspješni u novom svijetu, morate biti brzi i "vi" s moderne tehnologije. Nije tajna da siromašni imaju lošiji pristup obrazovanju. Sukladno tome, siromašni se neće moći izbiti na novu razinu, jer jednostavno neće imati priliku naučiti nešto korisno, jer su potrebne godine intenzivnog treninga da bi dobro razmislili, a gdje ih nabaviti kad treba tražiti za hranu.

Novo društvo treba ili jeftinu radnu snagu ili intelektualne donositelje odluka.

Problem peti

Može se ukratko formulirati – tko je na čelu? Osobe uključene u razvoj AI sustava imat će posebnu odgovornost, jer podučavaju AI, na temelju kojih podataka će AI donositi odluke. Hoće li to biti zakoni robotike iz Asimova ili druga pravila koja štite određeni sloj ljudi.

Zašto je umjetna inteligencija dobra?

Gore navedeni problemi djeluju pomalo zastrašujuće, ali AI je mač s dvije oštrice koji može pomoći.

Dobro 1

Umjetna inteligencija će poslužiti moćan poticaj za razvoj mnogih područja. Dobar primjer je medicina. Danas, u 21. stoljeću, liječnici nastavljaju liječiti na isti način kao prije sto godina. Trpaju udžbenike. Ovo je loša opcija, jer nijedan liječnik ne može zapamtiti napamet sve simptome svih bolesti. Posljedice takvih pogrešaka mogu biti kobne. Lokalni liječnik je do posljednjeg inzistirao da su uzroci maminih tegoba prehlada i umor, budući da su prisutni svi glavni simptomi. I tek kad je bilo prekasno, postavljena je točna dijagnoza – akutna leukemija, bolest koju je prilično teško prepoznati. A u ovoj situaciji izlaz bi bila prisutnost AI koji pamti sve bolesti i simptome i koji se nikad ne umara.

Isti pomak može se dogoditi u području prava, gdje odvjetnici i suci moraju imati na umu sve zakone, presedane i mnogo dokaza.

Blago 2

AI će vam pomoći stvoriti personalizirano iskustvo. Ovu tvrdnju najbolje je ilustrirati primjer treninga. Danas su nastavnici preopterećeni i fizički ne mogu pohađati sve učenike. No, svatko ima svoj tempo svladavanja novog gradiva. Sustavi učenja temeljeni na umjetnoj inteligenciji prate brzinu učenja, vide da li učenik dobro ili loše pamti, pažljivo čita ili je ometen. Na temelju toga se gradi individualni tempo učenja i odabiru vježbe za konsolidaciju.

Istodobno, postoji činjenica da je ljudima lakše shvaćati novo gradivo uz pomoć AI, jer se u tom slučaju strah od pogreške značajno smanjuje. Mogu se složiti s ovom izjavom. Moralno je lakše primiti ogorčeni zvučni signal s računala da je primjer netočno riješen nego izdržati pogled Olge Stepanovne, moje učiteljice matematike.

AI će moći posvetiti jednaku pažnju svim ljudima. To uključuje sva područja, od obrazovanja i medicine do odabira modernog imidža (u skladu s tipom figure, oblika lica i trendova sezone) i treninga u teretani.

Blago 3

Već danas naš svijet je pun informacija. Podaci se prikupljaju svugdje, od vremenskih uvjeta do broja koraka koji je osoba prepješačila.

Umjetna inteligencija s pristupom velikim podacima moći će analizirati te podatke i tražiti korelaciju, kako broj koraka utječe na zdravlje, ali ne apstraktno, već uzimajući u obzir određeno vrijeme. Analiza kretanja putničkog prometa pomoći će u smanjenju gužvi, smanjenju broja prometnih kolapsa u vršnim satima. Ukratko, analizirat će se podaci koji se mogu analizirati i AI će iznijeti svoje nalaze.

Zaključak

Danas je umjetna inteligencija pokazala da je dobra samo u rješavanju zadataka za koje je obučena, pa čak i da u njima bude bolja od običnih ljudi. Pametni telefon lako može pobijediti velemajstora i bez kraljice, japanska umjetna inteligencija koja je napisala kratki roman ušla je u finale književnog natječaja, a njegova braća pišu i izvode dobru glazbu.

Međutim, nažalost, AI je još uvijek u povojima. Može raditi samo ono što su ga naučili – analizirati mnoštvo književnih ili glazbenih djela i sintetizirati nešto svoje, ili pamtiti milijune poteza i odabrati najbolji.

Glavni problemi koji stoje na putu razvoja ograničene umjetne inteligencije su nedostatak univerzalnih algoritama za razumijevanje okolnog svijeta i infrastrukture (za prikupljanje podataka potrebno vam je puno senzora, za bespilotna vozila, ceste sa savršenim oznakama, za razumijevanje zahtjevi vlasnika, glasovni asistenti trebaju bolje algoritme).

Za pojavu jake umjetne inteligencije potrebni su temeljno različiti algoritmi računalne snage i obrade informacija koji oponašaju ono što ljudi nazivaju intuicijom. Vjerojatno ćemo u bliskoj budućnosti promatrati različite varijante ograničene AI s ugrađenim algoritmima ponašanja za različite uvjete.

Umjetna inteligencija stvorila je neuronsku mrežu 15. prosinca 2017

Živjeli smo do točke u kojoj umjetna inteligencija stvara vlastitu neuronsku mrežu. Iako mnogi misle da su jedno te isto. Ali zapravo, nije sve tako jednostavno, a sada ćemo pokušati shvatiti što je to i tko koga može stvoriti.

Inženjeri iz odjela Google Brain ovog su proljeća demonstrirali AutoML. Ova umjetna inteligencija može proizvesti vlastitu jedinstvenu umjetnu inteligenciju bez ljudske intervencije. Kako se pokazalo nedavno, AutoML je po prvi put uspio stvoriti NASNet, sustav računalnog vida. Ova tehnologija ozbiljno nadmašuje sve analoge koje su ljudi ranije stvorili. Ovaj sustav utemeljen na umjetnoj inteligenciji može biti izvrstan pomoćnik u razvoju npr. autonomni automobili. Primjenjivo je i u robotici – roboti će moći dosegnuti potpuno novu razinu.

Razvoj AutoML-a temelji se na jedinstvenom sustavu učenja s pojačavanjem. Riječ je o menadžerskoj neuronskoj mreži koja samostalno razvija potpuno nove neuronske mreže dizajnirane za određene specifične zadatke. U slučaju koji smo naveli, AutoML ima za cilj proizvesti sustav koji najtočnije prepoznaje objekte u videu u stvarnom vremenu u stvarnom vremenu.

Sama umjetna inteligencija uspjela je trenirati novu neuronsku mrežu, prateći pogreške i ispravljajući rad. Proces treninga se ponavljao mnogo puta (tisuće puta) dok sustav nije bio spreman za rad. Zanimljivo je da je uspjela zaobići sve slične neuronske mreže koje su trenutno dostupne, ali dizajnirane i uvježbane od strane osobe.

U isto vrijeme, AutoML ocjenjuje performanse NASNet-a i koristi te informacije za poboljšanje podređene mreže; ovaj proces se ponavlja tisuće puta. Kada su inženjeri testirali NASNet na ImageNet i COCO setovima slika, nadmašio je sve postojeće sustave računalnog vida.

Google je službeno izjavio da NASNet prepoznaje s točnošću od 82,7%. Rezultat je 1,2% veći od prethodnog rekorda, koji su početkom jeseni ove godine postavili istraživači iz Momente i specijalista Oxforda. NASNet je 4% učinkovitiji od svojih kolega s prosječnom točnošću od 43,1%.

Postoji i pojednostavljena verzija NASNeta koja je prilagođena mobilnim platformama. Nadmašuje analoge za nešto više od tri posto. U bliskoj budućnosti ovaj sustav će biti moguće koristiti za proizvodnju autonomnih automobila, za koje je važan računalni vid. AutoML nastavlja proizvoditi nove nasljedne neuronske mreže, nastojeći osvojiti još veće visine.

To, naravno, postavlja etička pitanja oko zabrinutosti oko AI: što ako AutoML gradi sustave takvom brzinom da društvo jednostavno ne može pratiti? Međutim, mnoge velike tvrtke pokušavaju uzeti u obzir sigurnosna pitanja umjetne inteligencije. Na primjer, Amazon, Facebook, Apple i neke druge korporacije članovi su Partnerstva za umjetnu inteligenciju u korist ljudi i društva. Institut elektrotehnike i inženjera (IEE) također je predložio etičke standarde za umjetnu inteligenciju, a DeepMind je, primjerice, najavio stvaranje skupine koja će se baviti moralnim i etičkim pitanjima vezanim uz primjenu umjetne inteligencije.

Međutim, mnoge velike tvrtke pokušavaju uzeti u obzir sigurnosna pitanja umjetne inteligencije. To, naravno, postavlja etička pitanja oko zabrinutosti oko AI: što ako AutoML gradi sustave takvom brzinom da društvo jednostavno ne može pratiti? Institut elektrotehnike i inženjera (IEE) također je predložio etičke standarde za umjetnu inteligenciju, a DeepMind je, primjerice, najavio stvaranje skupine koja će se baviti moralnim i etičkim pitanjima vezanim uz primjenu umjetne inteligencije. Na primjer, Amazon, Facebook, Apple i neke druge korporacije članovi su Partnerstva za umjetnu inteligenciju u korist ljudi i društva.

Što je umjetna inteligencija?

Autor pojma "umjetna inteligencija" je John McCarthy, izumitelj jezika Lisp, utemeljitelj funkcionalnog programiranja i dobitnik Turingove nagrade za veliki doprinos području istraživanja umjetne inteligencije.
Umjetna inteligencija način je da se napravi računalo, kompjuterski kontrolirani robot ili program koji može također inteligentno razmišljati poput čovjeka.

Istraživanja u području umjetne inteligencije provode se proučavanjem mentalnih sposobnosti osobe, a zatim se rezultati ovog istraživanja koriste kao osnova za razvoj inteligentnih programa i sustava.

Što je neuronska mreža?

Ideja neuronske mreže je sastaviti složenu strukturu od vrlo jednostavnih elemenata. Malo je vjerojatno da se jedan dio mozga može smatrati inteligentnim - ali ljudi obično iznenađujuće dobro rade na testu inteligencije. Ipak, do sada se ideja stvaranja uma "iz ničega" obično ismijavala: vic o tisuću majmuna s pisaćim strojevima star je već stotinu godina, a ako želite, može se naći i kritika neuronskih mreža. kod Cicerona koji je sarkastično predložio bacanje žetona sa slovima u zrak dok ne budeš plav u licu, pa će prije ili kasnije ispasti suvisli tekst. No, u 21. stoljeću pokazalo se da su klasici uzalud bili sarkastični: to je vojska majmuna s simbolima koji uz dužnu ustrajnost mogu zavladati svijetom.
Zapravo, neuronska mreža se čak može sastaviti iz kutija šibica: to je samo skup jednostavnih pravila po kojima se informacije obrađuju. “Umjetni neuron”, ili perceptron, ne zove se neka posebna naprava, već samo nekoliko aritmetičkih operacija.

Perceptron ne radi nigdje lakše: prima nekoliko početnih brojeva, svaki množi s "vrijednošću" ovog broja (o tome malo niže), zbraja ga i, ovisno o rezultatu, daje 1 ili -1. Na primjer, fotografiramo otvoreno polje i našem neuronu pokažemo neku točku na ovoj slici – odnosno šaljemo mu nasumične koordinate kao dva signala. A onda pitamo: "Dragi neurone, je li ovo nebo ili zemlja?" - "Minus jedan", odgovara lutka, spokojno gledajući kumulusni oblak. “Jasno je da je zemlja.”

"Prst u nebo" glavno je zanimanje perceptrona. Od njega se ne može očekivati ​​točnost: jednako tako možete baciti novčić. Magija počinje u sljedeća razinašto se naziva strojno učenje. Uostalom, znamo točan odgovor, što znači da ga možemo upisati u naš program. Dakle, ispada da za svako netočno nagađanje perceptron doslovno dobiva novčanu kaznu, a za ispravno nagađanje bonus: "vrijednost" dolaznih signala se povećava ili smanjuje. Nakon toga se program pokreće prema novoj formuli. Prije ili kasnije, neuron će neminovno "shvatiti" da je zemlja ispod na fotografiji, a nebo iznad, odnosno jednostavno će početi ignorirati signal iz kanala kroz koji mu se prenose x-koordinate. Ako se tako iskusnom robotu ubaci još jedna fotografija, onda možda neće pronaći liniju horizonta, ali sigurno neće pobrkati vrh i dno.

U stvarnom radu formule su malo kompliciranije, ali princip ostaje isti. Perceptron može izvršiti samo jedan zadatak: uzeti brojeve i razvrstati ih u dvije hrpe. Najzanimljivije počinje kada postoji nekoliko takvih elemenata, jer dolazni brojevi mogu biti signali iz drugih "cigli"! Recimo da će jedan neuron pokušati razlikovati plave i zelene piksele, drugi će nastaviti petljati s koordinatama, a treći će pokušati prosuditi koji je od ova dva rezultata bliži istini. Ako postavite nekoliko neurona na plave piksele odjednom i zbrojite njihove rezultate, dobit ćete cijeli sloj u kojem će "najbolji studenti" dobiti dodatne bonuse. Dakle, dovoljno raširena mreža može pokupiti čitavo brdo podataka i uzeti u obzir sve svoje pogreške.

Neuronska mreža se može napraviti pomoću kutija šibica - tada ćete u svom arsenalu imati trik kojim možete zabavljati goste na zabavama. Urednici MirF-a su to već isprobali - i ponizno priznaju superiornost umjetne inteligencije. Naučimo bezumnu materiju kako igrati igru ​​11 palica. Pravila su jednostavna: na stolu je 11 mečeva, a u svakom potezu možete uzeti jednu ili dvije. Pobjeđuje onaj koji uzme posljednju. Kako to igrati protiv "računala"?

Jako jednostavno.

Uzimamo 10 kutija ili šalica. Na svaki napišite broj od 2 do 11.

U svaku kutiju stavljamo po dva kamenčića - crni i bijeli. Možete koristiti bilo koje predmete - sve dok se međusobno razlikuju. To je to – imamo mrežu od deset neurona!

Neuronska mreža uvijek ide prva. Za početak pogledajte koliko je šibica ostalo i uzmite kutije s tim brojem. Na prvom skretanju bit će to kutija broj 11. Uzmi bilo koji kamenčić iz desne kutije. Možete zatvoriti oči ili baciti novčić, glavna stvar je djelovati nasumično.
Ako je kamen bijeli, neuronska mreža odlučuje uzeti dvije šibice. Ako crni - jedan. Stavite kamenčić pored kutije da ne zaboravite koji je "neuron" donio odluku. Nakon toga čovjek hoda – i tako sve dok ne ponestane šibica.

Sada dolazi zabavni dio: učenje. Ako je mreža pobijedila u igri, onda se mora nagraditi: baciti još jedan kamenčić iste boje koji je pao tijekom igre u one "neurone" koji su sudjelovali u ovoj igri. Ako je mreža izgubljena, uzmite posljednju korištenu kutiju i odatle izvadite neuspješno igrani kamen. Može se pokazati da je kutija već prazna - tada se prethodni sličan neuron smatra posljednjim. Tijekom sljedeće utakmice, udaranje prazne kutije, neuronska mreža će automatski odustati.

To je sve! Igrajte nekoliko ovakvih igrica. U početku nećete primijetiti ništa sumnjivo, ali nakon svake pobjede mreža će povlačiti sve uspješnije poteze – a nakon desetak partija shvatit ćete da ste stvorili čudovište koje ne možete pobijediti.

Izvori:

Ove godine pokrenut je Yandex glasovni asistent"Alice". Nova usluga omogućuje korisniku da sluša vijesti i vremensku prognozu, dobije odgovore na pitanja i jednostavno komunicira s botom. "Alice" ponekad drsko, ponekad se čini gotovo razumnim i ljudski sarkastičnim, ali često ne može shvatiti o čemu je pitaju i sjedi u lokvi.

Sve je to izazvalo ne samo val šala, već i novi krug rasprava o razvoju umjetne inteligencije. Vijesti o tome što su pametni algoritmi postigli danas stižu gotovo svaki dan, a strojno učenje nazivaju jednim od područja koja najviše obećavaju kojoj se možete posvetiti.

Kako bismo razjasnili glavna pitanja o umjetnoj inteligenciji, razgovarali smo sa Sergejem Markovim, stručnjakom za umjetnu inteligenciju i metode strojnog učenja, autorom jednog od najmoćnijih ruskih šahovskih programa SmarThink i tvorcem projekta XXIII.

Sergej Markov,

stručnjak za umjetnu inteligenciju

Razotkrivanje mitova o AI

Dakle, što je "umjetna inteligencija"?

Koncept "umjetne inteligencije" je pomalo nesretan. Prvotno nastao u znanstvenoj zajednici, s vremenom je prodro u znanstvenofantastičnu književnost, a preko nje i u pop kulturu, gdje je doživio niz promjena, dobio mnoga tumačenja, da bi na kraju bio potpuno mistificiran.

Zato često čujemo izjave ne-specijalista kao što su: “AI ne postoji”, “AI se ne može stvoriti”. Nerazumijevanje suštine istraživanja provedenog na području umjetne inteligencije lako dovodi ljude u druge krajnosti – primjerice, moderni sustavi umjetne inteligencije zaslužni su za prisutnost svijesti, slobodne volje i tajnih motiva.

Pokušajmo odvojiti muhe od kotleta.

U znanosti se umjetna inteligencija odnosi na sustave dizajnirane za rješavanje intelektualnih problema.

Zauzvrat, intelektualni zadatak je zadatak koji ljudi rješavaju uz pomoć vlastitog intelekta. Napominjemo da u ovom slučaju stručnjaci namjerno izbjegavaju definiranje pojma "inteligencije", jer je prije pojave AI sustava jedini primjer inteligencije bio ljudski intelekt, a definiranje pojma inteligencije na temelju jednog primjera isto je kao pokušavajući povući ravnu liniju kroz jednu točku. Takvih redaka može biti koliko god želite, što znači da bi se debata o konceptu inteligencije mogla voditi stoljećima.

"jaka" i "slaba" umjetna inteligencija

AI sustavi podijeljeni su u dvije velike skupine.

Primijenjena umjetna inteligencija(koriste i izraz "slabi AI" ili "uski AI", u engleskoj tradiciji - slab / primijenjen / uski AI) je AI dizajniran za rješavanje bilo kojeg intelektualnog zadatka ili malog broja njih. Ovaj razred uključuje sustave za igranje šaha, go, prepoznavanje slike, govor, odlučivanje o izdavanju ili neizdavanju bankovnog kredita i tako dalje.

Za razliku od primijenjene AI, uvodi se koncept univerzalna umjetna inteligencija(također "snažna AI", na engleskom - jaka AI / Artificial General Intelligence) - to jest, hipotetski (do sada) AI sposoban riješiti bilo koje intelektualne zadatke.

Često ljudi, ne poznavajući terminologiju, poistovjećuju AI s jakom umjetnom inteligencijom, zbog toga se pojavljuju presude u duhu "AI ne postoji".

Jaka AI zapravo još ne postoji. Gotovo sav napredak koji smo vidjeli u posljednjem desetljeću u području umjetne inteligencije bio je napredak u primijenjenim sustavima. Ovi se uspjesi ne mogu podcijeniti, budući da su primijenjeni sustavi u nekim slučajevima sposobni riješiti intelektualne probleme bolje od univerzalne ljudske inteligencije.

Mislim da ste primijetili da je koncept AI prilično širok. Recimo da je mentalno brojanje također intelektualni zadatak, što znači da će se svaki računski stroj smatrati AI sustavom. Što je s računima? abakus? Antikiterski mehanizam? Doista, sve je to formalno, iako primitivno, ali AI sustavi. Međutim, obično, nazivajući neki sustav AI sustavom, time naglašavamo složenost zadatka koji ovaj sustav rješava.

Sasvim je očito da je podjela intelektualnih zadataka na jednostavne i složene vrlo umjetna, a naše se ideje o složenosti pojedinih zadataka postupno mijenjaju. Mehanički računski stroj bio je čudo tehnologije u 17. stoljeću, ali danas ljude koji su od djetinjstva suočeni s mnogo složenijim mehanizmima više ne može impresionirati. Kada igra automobila u Go ili autopilota prestane iznenađivati ​​javnost, sigurno će se naći ljudi koji će se trgnuti od činjenice da će netko takve sustave pripisati AI.

"Roboti-odlični učenici": o sposobnosti AI da uči

Još jedna smiješna zabluda je da AI sustavi moraju imati sposobnost samoučenja. S jedne strane, to uopće nije obvezno svojstvo AI sustava: postoji mnogo nevjerojatnih sustava koji nisu sposobni za samoučenje, ali ipak rješavaju mnoge probleme bolje od ljudskog mozga. S druge strane, neki ljudi jednostavno ne znaju da je samoučenje značajka koju su mnogi sustavi umjetne inteligencije stekli čak i prije više od pedeset godina.

Kada sam 1999. godine napisao svoj prvi šahovski program, samoučenje je već bilo uobičajeno na ovom području - programi su mogli pamtiti opasne pozicije, sami sebi prilagođavati varijacije otvaranja, prilagođavati stil igre, prilagođavati se protivniku. Naravno, ti su programi još uvijek bili jako daleko od Alpha Zero. Međutim, već su postojali čak i sustavi koji uče ponašanje temeljeno na interakciji s drugim sustavima u takozvanim eksperimentima "učenje s pojačanjem". Međutim, iz nekog neobjašnjivog razloga, neki ljudi još uvijek misle da je sposobnost samoučenja prerogativ ljudskog intelekta.

Strojno učenje, cijela znanstvena disciplina, bavi se procesima učenja strojeva za rješavanje određenih problema.

Postoje dva velika pola strojnog učenja – učenje pod nadzorom i učenje bez nadzora.

Na učenje s učiteljem stroj već ima niz uvjetno ispravnih rješenja za neki skup slučajeva. Zadatak učenja u ovom slučaju je naučiti stroj, na temelju dostupnih primjera, da donosi ispravne odluke u drugim, nepoznatim situacijama.

Druga krajnost - učenje bez učitelja. Odnosno, stroj se dovodi u situaciju da su točna rješenja nepoznata, postoje samo podaci u sirovom, neoznačenom obliku. Ispada da je u takvim slučajevima moguće postići neki uspjeh. Na primjer, možete naučiti stroj da identificira semantičke odnose između riječi u jeziku na temelju analize vrlo velikog skupa tekstova.

Jedna vrsta nadziranog učenja je učenje s pojačanjem. Ideja je da AI sustav djeluje kao agent smješten u neko modelno okruženje u kojem može komunicirati s drugim agentima, na primjer, sa svojim kopijama, i primati neke povratne informacije iz okoline kroz funkciju nagrađivanja. Na primjer, šahovski program koji igra sam sa sobom, postupno prilagođavajući svoje parametre i time postupno jačajući vlastitu igru.

Učenje s pojačanjem je prilično široko polje i koristi mnoge zanimljive tehnike u rasponu od evolucijskih algoritama do Bayesove optimizacije. Nedavni napredak u AI za igre upravo je povezan s pojačavanjem AI tijekom učenja s pojačanjem.

Tehnološki rizici: trebamo li se bojati Sudnjeg dana?

Nisam jedan od AI alarmista, i u tom smislu nisam nipošto sam. Na primjer, Andrew Ng, kreator tečaja Stanford Machine Learning, uspoređuje opasnosti umjetne inteligencije s problemom prenaseljenosti na Marsu.

Doista, u budućnosti je vjerojatno da će ljudi kolonizirati Mars. Također je vjerojatno da bi se prije ili kasnije na Marsu mogao pojaviti problem prenaseljenosti, ali nije sasvim jasno zašto bismo se sada bavili tim problemom? Yn i Yang LeKun, tvorci konvolucijskih neuronskih mreža, slažu se s Ynom, njegovim šefom Markom Zuckerbergom i Joshuom Benyoom, osobom za čije istraživanje je uvelike zaslužno istraživanje kojih su moderne neuronske mreže u stanju riješiti složene probleme na terenu. obrade teksta.

Vjerojatno će trebati nekoliko sati da iznesem svoje viđenje ovog problema, pa ću se usredotočiti samo na glavne teze.

1. NE OGRANIČAJTE RAZVOJ AI

Alarmisti razmatraju rizike povezane s potencijalnim poremećajem umjetne inteligencije, zanemarujući rizike povezane s pokušajem ograničavanja ili čak zaustavljanja napretka u ovom području. Tehnološka moć čovječanstva raste iznimno brzim tempom, što dovodi do efekta koji ja nazivam "pojeftinjenje cijene apokalipse".

Prije 150 godina, uz svu volju, čovječanstvo nije moglo nanijeti nepopravljivu štetu ni biosferi ni sebi kao vrsti. Za provedbu katastrofalnog scenarija prije 50 godina bilo bi potrebno koncentrirati svu tehnološku moć nuklearnih sila. Sutra bi mala šačica fanatika mogla biti dovoljna da oživi globalnu katastrofu koju je napravio čovjek.

Naša tehnološka moć raste mnogo brže od sposobnosti ljudske inteligencije da kontrolira ovu moć.

Osim ako ljudska inteligencija, sa svojim predrasudama, agresijom, zabludama i uskogrudošću, ne bude zamijenjena sustavom koji je sposoban donositi informirane odluke (bilo da se radi o AI ili, što smatram vjerojatnijim, o tehnološki poboljšanoj ljudskoj inteligenciji integriranoj sa strojevima u jedinstveni sustav), možemo čekati globalnu katastrofu.

2. stvaranje superinteligencije u osnovi je nemoguće

Postoji ideja da će AI budućnosti zasigurno biti super-inteligentna, superiornija od ljudi čak i više nego što su ljudi superiorniji od mrava. U ovom slučaju, bojim se razočarati tehnološke optimiste - naš Svemir sadrži niz temeljnih fizičkih ograničenja, koja će, očito, onemogućiti stvaranje superinteligencije.

Na primjer, brzina prijenosa signala ograničena je brzinom svjetlosti, a Heisenbergova nesigurnost se pojavljuje na Planckovoj ljestvici. To podrazumijeva prvu temeljnu granicu - Bremermannov limit, koji uvodi ograničenja na najveća brzina proračuni za autonomni sustav zadane mase m.

Drugo ograničenje vezano je uz Landauerov princip, prema kojem se pri obradi 1 bita informacije oslobađa minimalna količina topline. Prebrzi izračuni će uzrokovati neprihvatljivo zagrijavanje i uništenje sustava. Zapravo, moderni procesori su manje od tisuću puta iza Landauerove granice. Čini se da je 1000 dosta, ali drugi je problem što mnogi intelektualni zadaci pripadaju klasi složenosti EXPTIME. To znači da je vrijeme potrebno za njihovo rješavanje eksponencijalna funkcija dimenzije problema. Ubrzavanje sustava nekoliko puta daje samo konstantan porast "inteligencije".

Općenito, postoje vrlo ozbiljni razlozi za vjerovanje da super-inteligentna jaka AI neće raditi, iako, naravno, razina ljudske inteligencije može biti nadmašena. Koliko je opasno? Najvjerojatnije ne baš puno.

Zamislite da ste odjednom počeli razmišljati 100 puta brže od drugih ljudi. Znači li to da ćete lako nagovoriti bilo kojeg prolaznika da vam da svoj novčanik?

3. brinemo o nečem drugom

Nažalost, kao rezultat spekulacija alarmista o strahovima javnosti, iznesenim o Terminatoru i Clarkovom i Kubrickovom poznatom HAL 9000, dolazi do pomaka u fokusu AI sigurnosti prema analizi malo vjerojatnih, ali spektakularnih scenarija. U isto vrijeme, stvarne opasnosti izmiču iz vida.

Svaka dovoljno složena tehnologija koja tvrdi da zauzima važno mjesto u našem tehnološkom krajoliku zasigurno sa sobom nosi i specifične rizike. Mnogi životi su uništeni parnim strojevima - u proizvodnji, transportu i tako dalje - prije nego što su uspostavljena učinkovita sigurnosna pravila i mjere.

Ako govorimo o napretku u području primijenjene umjetne inteligencije, možemo obratiti pozornost na srodni problem tzv. „Digital Secret Court“. Sve više primijenjenih sustava umjetne inteligencije donosi odluke o pitanjima koja utječu na život i zdravlje ljudi. To uključuje medicinske dijagnostičke sustave, te, na primjer, sustave koji donose odluke u bankama o izdavanju ili nedavanju kredita klijentu.

Istodobno, struktura korištenih modela, skupovi korištenih faktora i drugi detalji postupka odlučivanja skriveni su od osobe čija je sudbina u pitanju.

Korišteni modeli mogu svoje odluke temeljiti na mišljenjima stručnih učitelja koji su sustavno griješili ili su imali određene predrasude – rasne, spolne.

AI obučen za odluke takvih stručnjaka savjesno će reproducirati te predrasude u svojim odlukama. Uostalom, ovi modeli mogu sadržavati određene nedostatke.

Malo tko se sada bavi tim problemima, jer je, naravno, SkyNet koji je pokrenuo nuklearni rat, naravno, puno spektakularniji.

Neuronske mreže kao "vrući trend"

S jedne strane, neuronske mreže su jedna od najvažnijih vintage modeli koristi se za stvaranje AI sustava. U početku su se pojavili kao rezultat primjene bioničkog pristupa, brzo su pobjegli od svojih bioloških prototipova. Jedina iznimka ovdje su impulsne neuronske mreže (međutim, one još nisu našle široku primjenu u industriji).

Napredak posljednjih desetljeća povezan je s razvojem tehnologija dubokog učenja – pristupa u kojem se neuronske mreže sastavljaju od veliki broj slojeva, od kojih je svaki izgrađen na temelju određenih pravilnih uzoraka.

Osim stvaranja novih modela neuronskih mreža, značajan napredak postignut je i na području tehnologija učenja. Danas se neuronske mreže više ne poučavaju uz pomoć središnjih procesora računala, već uz korištenje specijaliziranih procesora sposobnih za brzo izvođenje matričnih i tenzorskih izračuna. Najčešća vrsta takvih uređaja danas su video kartice. Međutim, aktivno se razvijaju još specijaliziraniji uređaji za obuku neuronskih mreža.

Općenito, naravno, neuronske mreže danas su jedna od glavnih tehnologija u području strojnog učenja, kojoj dugujemo rješenje mnogih problema koji su se prije nezadovoljavajuće rješavali. S druge strane, naravno, morate shvatiti da neuronske mreže nisu lijek za sve. Za neke zadatke oni su daleko od najučinkovitijeg alata.

Pa koliko su zapravo pametni današnji roboti?

Sve je relativno. Na pozadini tehnologija 2000. godine, sadašnja dostignuća izgledaju kao pravo čudo. Uvijek će biti ljudi koji vole gunđati. Prije 5 godina, uvelike su govorili da strojevi nikada neće pobijediti ljude u pokretu (ili barem neće pobijediti vrlo brzo). Govorilo se da stroj nikada neće moći nacrtati sliku od nule, dok danas ljudi praktički ne mogu razlikovati slike koje stvaraju strojevi i slike njima nepoznatih umjetnika. Krajem prošle godine strojevi su naučili sintetizirati govor, koji se gotovo ne razlikuje od ljudskog, i posljednjih godina uši ne venu od glazbe koju stvaraju strojevi.

Da vidimo što će biti sutra. Gledam na ove primjene AI s velikim optimizmom.

Obećavajući smjerovi: gdje početi zaroniti u polje AI?

Savjetovao bih vam da pokušate svladati na dobroj razini jedan od popularnih okvira neuronskih mreža i jedan od programskih jezika popularnih u području strojnog učenja (danas je najpopularnija kombinacija TensorFlow + Python).

Nakon što ste svladali ove alate i u idealnom slučaju imate jaku bazu u području matematičke statistike i teorije vjerojatnosti, trebali biste svoje napore usmjeriti na područje koje će vama osobno biti najzanimljivije.

Interes za predmet rada jedan je od vaših najvažnijih pomoćnika.

Potreba za stručnjacima za strojno učenje postoji u raznim područjima – u medicini, bankarstvu, znanosti, proizvodnji, pa danas dobar stručnjak ima više izbora nego ikad. Potencijalne koristi bilo koje od ovih djelatnosti mi se čine beznačajnima u usporedbi s činjenicom da će vam posao donijeti zadovoljstvo.