Nisam se pomaknuo i jedva sam disao... Mora da su mi već izgubili trag... Izvukao sam se iz skrovišta i našao se oči u oči s jednim od njih... Vrištao je, ali nije se mogao pomaknuti... Igra se opet srušila

Umjetna inteligencija (AI) u video igrama je nešto što većina nas ne primjećuje dok se ne pokvari. Nevidljivo je prisutan u svemu, utječe na naše iskustvo igranja, na našu percepciju svakog trenutka igre, ali je jedan od najpodcijenjenijih elemenata videoigara. AI je začin koji igri daje okus, uranja nas u svijet igre kao ništa drugo.

Svatko pojam "umjetna inteligencija" shvaća na svoj način. Ovaj izraz može se odnositi na softverske procese koji kontroliraju likove u igri, pojedinačne objekte u igri ili čak protivnike koje nikada ne vidite (kao u strategiji u stvarnom vremenu, na primjer).

Okrenimo se Alien: Isolation. Na stranu slučajna rušenja, recimo da je to sjajna igra! Jedna od rijetkih filmskih igara koja vam omogućuje da se osjećate kao da ste u filmu. Alien: Izolacija čini da se stvarno osjećate kao da ste u filmu Alien. Svaki film o Alienu ima jasan cilj: riješiti se vanzemaljca. Mnogi izolirani trenuci u filmovima mogli bi se pretvoriti u zanimljiv gameplay, bilo da se radi o Dallasu koji se penje kroz ventilacijske otvore s bacačem plamena ili Ripley koja nabija Kraljicu u mehaničkom utovarivaču. Ti su filmovi, kao i videoigre, vrlo energični, njihov je svemir vrlo pogodan za "gaming".

Igra Alien: Isolation jaka je upravo u svojoj umjetnoj inteligenciji. Alien bi trebao djelovati na takav način da se igrač osjeća kao sudionik u Alien filmovima.Alien je sam po sebi složeno stvorenje, koje daje puno mogućnosti igranja. Skriva se promišljenim dizajnom prostorija. Kreće se kroz ventilaciju, neočekivano napadajući igrače. Mrzi vatru, pa protiv njega možemo koristiti bacače plamena. U isto vrijeme, igra postavlja određene granice težine. Znamo kako to funkcionira životni ciklus vanzemaljci. Znamo da ispuštaju kiselinu. Znamo za njihovu kolektivnu inteligenciju. Drugim riječima, filmovi o Alienu stvorili su uvjerljiv sandbox za programere igara.

Svaka odluka koju donesete u izolaciji vraća se Autsajderu. Kako se skrivaš? Kako koristite dragocjeno gorivo za bacače plamena? Koliko čekaš da ode? Suočavate se sa stvarnim, živim Alienom koji će se ponašati i razmišljati kao vanzemaljac. Nevjerojatno je, zastrašujuće i nevjerojatno u isto vrijeme!

Većina igrača i programera vjeruje da je "jaka umjetna inteligencija" u biti nemoguća. To bi značilo da bi trebala biti jednaka ili čak superiornija ljudskoj inteligenciji. Teško da bi bilo ugodno igrati se s ovim.

Jaka umjetna inteligencija bit će vrlo slična drugom igraču, s istim ciljevima igre: željet će pobijediti. Dobra umjetna inteligencija ne želi pobjeđivati, ona želi da naporno radite kako biste zaradili svoj dobitak. Zato Alien nije toliko realistična simulacija najvećeg filmskog čudovišta koliko je rekonstrukcija iskustva.

U izolaciji, Alien je gotovo uvijek tu. Naravno, možete mu skrenuti pažnju na neko vrijeme, ili se preseliti iz jedne prostorije u drugu, ali on će uvijek završiti u blizini. Većinu vremena, Alien se ponaša uvjerljivo, osim u rijetkim prilikama kada se neobjašnjivo zadržava u jednoj prostoriji dok vi zadržavate dah, nadajući se da će on otići kako biste vi mogli ispuzati iz ormara.

Vanzemaljac kao da uvijek zna vašu približnu lokaciju, što vas drži u neizvjesnosti i neizvjesnosti. On vas ne primjećuje odmah (osim rijetkih "propusta") ako ne iznevjerite stealth. Ovo je vrlo zgodno za održavanje atmosfere horor filma, ali ponekad se trenutak oduži i igra počne "lažirati". Ponekad je igra toliko fokusirana na stvaranje napetosti da zaboravi na ono puno važnije – uranjanje.

Smiješno je, ali zbog marketinške otrcanosti riječ "uronjenje" gotovo je izgubila značenje. Sada se svaka igra koja može zadržati pozornost može pohvaliti "uranjanjem". Ali značenje je drugačije od samog početka: kada zaronite u ocean, postojite unutar oceana.

U 1990-ima se pojavio koncept "Immersive Sim" (immersion simulation). Ideja je bila da igrači mogu postojati u svijetu igre i tretirati ga kao stvarnost. Najpoznatiji "immersive sims" 90-ih bili su System Shock i Thief: The Dark Project. Obje ove igre razvio je Looking Glass Studios i obje su imale snažan fokus na umjetnu inteligenciju.

Igra bez dobre umjetne inteligencije je poput zbirke praznih filmova. Cijela zbirka je dobra, ali film se temelji na njezinim likovima. Sjajna umjetna inteligencija udahnjuje život likovima igre i njenom svijetu. Ovo je najvažnija komponenta u reprodukciji impresivnog filmskog iskustva.

Za dobar primjer "immersive sim" na djelu, pogledajmo Thief: The Dark Project. Igra je smještena u svijet mašte, a vi igrate kao lopov po imenu Garrett. Jedna vas misija šalje u podzemne ruševine. Područje karte naseljeno je posebnim zombijima. Ne mogu se smrviti na komade, poput običnih. Ponovno se rađaju ubrzo nakon što ih ubijete. Jedini način da ih se stvarno riješite je da koristite svetu vodu na svojim skupim vodenim strijelama, koje obično gase baklje, omogućujući vam da se sakrijete u mraku. Kad vas zombi opazi, urla, upozoravajući druge zombije, koji urlaju za sljedećim. Tako je bilo moguće skupiti gomilu svih zombija na razini. Ako nije bilo dovoljno strijela ili svete vode, trebalo je smisliti plan.

Na primjer, moglo se s dva ili tri zombija ušuljati na balkon iznad sobe, krišom pucati u jednog da bi on urlanjem pozvao sve zombije u sobu, a zatim ih početi gađati svetom vodom

Odnosno, igra je stvorila prostor, stvorila neprijatelje koji su imali logičan skup pravila i na koje se mogla primijeniti vrlo stvarna logika.

Stoga igra s dobrom umjetnom inteligencijom radi više kao Thief nego Isolation. Napetost je vrlo važna za Alien igru, ali uranjanje mora biti temelj. Ako igra prestane biti uvjerljiva, više nije tako strašna.

Naravno, da bi uranjanje uspjelo, moramo prihvatiti trikove redatelja ili programera. Film o Alienu neće funkcionirati ako nam netko ispred ekrana kaže da izvanzemaljac zapravo nije izašao iz ljudskih grudi. Stoga, kako bi funkcionirao, Alien: Isolation nas mora natjerati da povjerujemo u njegovu stvarnost. Igra bi trebala biti interaktivna, odnosno još realističnija od bilo kojeg filma. Igra mora biti uzbudljiva. Pravila moraju imati smisla i biti dosljedna.

Ako vi ili igra prekinete taj odnos, igra prestaje biti zastrašujuća i iskustvo se raspada. Kada se ljudi koji love igrača iznenada zamrznu ili kada im se izvanzemaljac "teleportira" iza leđa, to prekida uranjanje i povlači iz iskustva igre. On prestaje biti strašan, što je ponajprije cijela poanta Aliena.

Igramo Alien igre jer želimo doživjeti iskustvo Aliena. Kad se AI pokvari ili "zabrblja", uranjanje se gubi i igra se raspada. Ali kada umjetna inteligencija radi kako treba, postajemo Ripley, skrivamo se u ormariću, zadržavamo dah, čekajući da čudovište ode.

Umjetna inteligencija - u U zadnje vrijeme jedna od najpopularnijih tema u svijetu tehnologije. Umovi poput Elona Muska, Stephena Hawkinga i Stevea Wozniaka ozbiljno su zabrinuti zbog istraživanja umjetne inteligencije i tvrde da nam njezino stvaranje prijeti smrtnom opasnošću. U isto vrijeme, znanstvena fantastika i holivudski filmovi stvorili su mnogo zabluda o umjetnoj inteligenciji. Jesmo li doista u opasnosti i kakve netočnosti činimo kada zamišljamo uništenje Skynet Zemlje, opću nezaposlenost ili obrnuto, prosperitet i nebrigu? Ljudske mitove o umjetnoj inteligenciji razotkrio je Gizmodo. Evo cjelovitog prijevoda njegova članka.

Nazivaju ga najvažnijim testom strojne inteligencije otkako je Deep Blue pobijedio Garryja Kasparova u šahovskom meču prije 20 godina. Google AlphaGo pobijedio je velemajstora Li Sedola na Go turniru poraznim rezultatom 4:1, pokazujući koliko je umjetna inteligencija (AI) ozbiljno napredovala. Sudbonosni dan kada će strojevi konačno nadmašiti ljudski um nikada se nije činio tako blizu. No, čini se da još nismo ni blizu shvatili posljedice ovog epohalnog događaja.

Zapravo, držimo se ozbiljnih, pa čak i opasnih zabluda o umjetnoj inteligenciji. Prošle godine osnivač SpaceX-a Elon Musk upozorio je da bi umjetna inteligencija mogla preuzeti svijet. Njegove riječi izazvale su buru komentara, kako protivnika, tako i zagovornika ovakvog mišljenja. Što se tiče takvog budućeg monumentalnog događaja, postoji zapanjujuća količina kontroverzi o tome hoće li se on dogoditi, i ako hoće, u kojem obliku. Ovo je posebno zabrinjavajuće kada uzmete u obzir nevjerojatne dobrobiti koje bi čovječanstvo moglo dobiti od umjetne inteligencije i potencijalne rizike. Za razliku od drugih ljudskih izuma, umjetna inteligencija ima potencijal promijeniti čovječanstvo ili nas uništiti.

Teško je znati u što vjerovati. Ali zahvaljujući ranim radovima računalnih znanstvenika, neuroznanstvenika, teoretičara umjetne inteligencije, počinje se pojavljivati ​​jasnija slika. Evo nekih uobičajenih zabluda i mitova o umjetnoj inteligenciji.

Mit #1: "Nikada nećemo stvoriti AI s ljudskom inteligencijom"

Stvarnost: Već imamo računala koja su jednaka ili premašila ljudske sposobnosti u šahu, Gou, trgovanju dionicama i razgovoru. Računala i algoritmi koji ih pokreću mogu biti samo bolji. Samo je pitanje vremena kada će nadmašiti ljude u bilo kojem zadatku.

Gary Marcus, istraživački psiholog s NYU-a, rekao je da "doslovno svi" koji rade na AI-ju vjeruju da će nas strojevi na kraju pobijediti: "Jedina stvarna razlika između entuzijasta i skeptika su procjene vremena." Futuristi poput Raya Kurzweila misle da bi se to moglo dogoditi u roku od nekoliko desetljeća, drugi kažu da bi to moglo potrajati stoljećima.

Skeptici AI-a nisu uvjerljivi kada kažu da je to nerješiv tehnološki problem, au prirodi biološkog mozga postoji nešto jedinstveno. Naši mozgovi su biološki strojevi - oni postoje u stvarnom svijetu i pridržavaju se osnovnih zakona fizike. Ne postoji ništa nespoznatljivo o njima.

Mit #2: "Umjetna inteligencija će imati svijest"

Stvarnost: Većina zamišlja da će strojni um biti svjestan i misliti na način na koji ljudi misle. Štoviše, kritičari poput suosnivača Microsofta Paula Allena vjeruju da još uvijek ne možemo postići umjetnu opću inteligenciju (sposobnu riješiti bilo koji mentalni problem koji čovjek može riješiti) jer nam nedostaje znanstvena teorija svijesti. No kako kaže Murray Shanahan, stručnjak za kognitivnu robotiku na Imperial Collegeu u Londonu, ne bismo trebali izjednačavati ta dva pojma.

“Svijest je svakako nevjerojatna i važna stvar, ali ne vjerujem da je neophodna za umjetnu inteligenciju na razini čovjeka. Točnije, riječ "svijest" koristimo za označavanje nekoliko psiholoških i kognitivnih osobina koje osoba "dolazi u kompletu", objašnjava znanstvenica.

Može se zamisliti inteligentni stroj kojemu nedostaje jedna ili više od ovih osobina. Na kraju, možemo stvoriti nevjerojatno pametnu umjetnu inteligenciju koja neće moći percipirati svijet subjektivno i svjesno. Shanahan tvrdi da se um i svijest mogu spojiti u stroj, ali ne smijemo zaboraviti da su to dva različita pojma.

Činjenica da stroj prolazi Turingov test, u kojem se ne razlikuje od čovjeka, ne znači da ima svijest. Nama se napredna umjetna inteligencija može činiti svjesnom, ali njena samosvijest neće biti ništa više od one kamena ili kalkulatora.

Mit #3: "Ne trebamo se bojati umjetne inteligencije"

Stvarnost: Osnivač Facebooka Mark Zuckerberg u siječnju je rekao da se ne trebamo bojati umjetne inteligencije, jer će učiniti nevjerojatno puno dobrih stvari za svijet. Napola je u pravu. Izvući ćemo ogromne koristi od umjetne inteligencije, od samovozećih automobila do novih lijekova, ali nema jamstva da će svaka implementacija umjetne inteligencije biti benigna.

Visoko inteligentan sustav može znati sve o određenom zadatku, kao što je rješavanje gadnog financijskog problema ili hakiranje neprijateljskog obrambenog sustava. Ali izvan granica tih specijalizacija, ona će biti duboko neuka i nesvjesna. Googleov sustav DeepMind stručnjak je za Go, ali nema mogućnosti niti razloga istraživati ​​područja izvan svoje specijalnosti.

Mnogi od ovih sustava možda ne podliježu sigurnosnim razmatranjima. Dobar primjer je složen i moćan virus Stuxnet, paravojni crv koji su razvile izraelska i američka vojska za infiltraciju i sabotiranje iranskih nuklearnih postrojenja. Ovaj virus je nekako (namjerno ili slučajno) zarazio rusku nuklearnu elektranu.

Drugi primjer je program Flame koji se koristi za cyber špijunažu na Bliskom istoku. Lako je zamisliti buduće verzije Stuxneta ili Flamea koje prekoračuju svoje ciljeve i čine ogromnu štetu osjetljivoj infrastrukturi. (Da se razumijemo, ovi virusi nisu umjetna inteligencija, ali u budućnosti bi je mogli imati, stoga zabrinutost).

Virus Flame korišten je za cyber špijunažu na Bliskom istoku. Fotografija: Wired

Mit #4: "Umjetna superinteligencija bit će previše pametna da bi pogriješila"

Stvarnost: Istraživač umjetne inteligencije i osnivač Surfing Samurai Robots Richard Lucimore vjeruje da je većina scenarija sudnjeg dana povezanih s umjetnom inteligencijom nedosljedna. Uvijek se temelje na pretpostavci da umjetna inteligencija govori: "Znam da je uništenje čovječanstva uzrokovano greškom u dizajnu, ali ipak to moram učiniti." Lucimore kaže da ako se AI ponaša na ovaj način, govoreći o našem uništenju, onda će ga takve logične kontradikcije proganjati cijeli život. To zauzvrat degradira njegovu bazu znanja i čini ga previše glupim da stvori opasnu situaciju. Znanstvenik također tvrdi da ljudi koji kažu: "AI može učiniti samo ono za što je programirana" jednako griješe kao i njihovi kolege u zoru računalnog doba. Tada su ljudi koristili ovu frazu kako bi tvrdili da računala nisu sposobna pokazati ni mrvicu fleksibilnosti.

Peter McIntyre i Stuart Armstrong, koji rade na Institutu za budućnost čovječanstva na Sveučilištu Oxford, ne slažu se s Lucimoreom. Tvrde da je AI uvelike vezan za način na koji je programiran. McIntyre i Armstrong vjeruju da AI ne može pogriješiti ili biti previše glup da ne zna što očekujemo od njega.

“Prema definiciji, umjetna superinteligencija (AI) je entitet s inteligencijom daleko većom od najboljeg ljudskog mozga u bilo kojem području znanja. On će točno znati što smo htjeli da učini”, kaže McIntyre. Oba znanstvenika vjeruju da će umjetna inteligencija raditi samo ono za što je programirana. Ali ako postane dovoljno pametan, shvatit će koliko se to razlikuje od duha zakona ili namjera ljudi.

McIntyre je usporedio buduću situaciju ljudi i umjetne inteligencije s trenutnom interakcijom čovjeka i miša. Svrha miša je tražiti hranu i sklonište. Ali često se kosi sa željom osobe koja želi da njegova životinja slobodno trči oko njega. “Dovoljno smo pametni da razumijemo neke od svrha miševa. Dakle, ASI će također razumjeti naše želje, ali biti ravnodušan prema njima “, kaže znanstvenik.

Kao što pokazuje radnja filma Ex Machina, osobi će biti izuzetno teško zadržati pametniju AI

Mit #5: "Jednostavna zakrpa će riješiti problem AI kontrole"

Stvarnost: Stvaranjem umjetne inteligencije pametniji od čovjeka, suočeni smo s problemom poznatim kao “problem kontrole”. Futuristi i teoretičari umjetne inteligencije padaju u stanje potpune zbunjenosti kada ih se pita kako ćemo obuzdati i ograničiti ASI ako do njega dođe. Ili kako se uvjeriti da je prijateljski raspoložen prema ljudima. Nedavno su istraživači s Georgia Institute of Technology naivno sugerirali da umjetna inteligencija može usvojiti ljudske vrijednosti i društvena pravila čitanjem jednostavne priče. U stvarnosti će to biti mnogo teže.

“Predloženo je puno jednostavnih trikova koji bi mogli 'riješiti' cijeli problem kontrole umjetne inteligencije,” kaže Armstrong. Primjeri uključuju programiranje ASI-ja tako da mu je svrha zadovoljiti ljude ili da jednostavno funkcionira kao alat u rukama osobe. Druga mogućnost je integracija pojmova ljubavi ili poštovanja u izvorni kod. Kako bi se spriječilo da umjetna inteligencija usvoji pojednostavljeni, jednostrani pogled na svijet, predloženo je da se programira da cijeni intelektualnu, kulturnu i društvenu raznolikost.

Ali ta su rješenja prejednostavna, kao pokušaj da se kompleksnost ljudskih simpatije i antipatije sabije u jednu površnu definiciju. Pokušajte, na primjer, smisliti jasnu, logičnu i izvedivu definiciju "poštovanja". Ovo je izuzetno teško.

Strojevi u Matrixu lako bi mogli uništiti čovječanstvo

Mit #6: “Umjetna inteligencija će nas uništiti”

Stvarnost: Ne postoji jamstvo da će nas AI uništiti ili da nećemo moći pronaći način da ga kontroliramo. Kao što je rekao teoretičar umjetne inteligencije Eliezer Yudkowsky, "AI vas niti voli niti mrzi, ali ste napravljeni od atoma koje može koristiti u druge svrhe."

U svojoj knjizi Artificial Intelligence. Faze. Prijetnje. Strategije”, oxfordski filozof Nick Bostrom napisao je da će prava umjetna superinteligencija, kada se jednom pojavi, predstavljati veći rizik od bilo kojeg drugog ljudskog izuma. Eminentni umovi poput Elona Muska, Billa Gatesa i Stephena Hawkinga (potonji je upozorio da bi umjetna inteligencija mogla biti naša "najgora pogreška u povijesti") također su izrazili zabrinutost.

McIntyre je rekao da u većini ciljeva kojima se ISI može rukovoditi postoje dobri razlozi da se ljudi riješe.

“AI može predvidjeti, sasvim ispravno, da ne želimo da maksimizira profit određene tvrtke, bez obzira na cijenu za kupce, okoliš i životinje. Dakle, on ima snažan poticaj da se pobrine da ga nitko ne prekida, ne miješa, isključi ili mijenja svoje ciljeve, jer to ne bi ispunilo njegove izvorne ciljeve,” kaže McIntyre.

Osim ako ASI-jevi ciljevi točno ne odražavaju naše, tada će imati dobar razlog da nam ne da priliku da ga zaustavimo. S obzirom na to da je njegova razina inteligencije daleko bolja od naše, ne možemo ništa učiniti u vezi s tim.

Nitko ne zna kakav će oblik AI poprimiti i kako bi mogao ugroziti čovječanstvo. Kao što je Musk primijetio, umjetna inteligencija može se koristiti za kontrolu, regulaciju i nadzor druge umjetne inteligencije. Ili može biti prožet ljudskim vrijednostima ili prevladavajućom željom da budemo prijateljski raspoloženi prema ljudima.

Mit #7: "Umjetna superinteligencija bit će prijateljska"

Stvarnost: Filozof Immanuel Kant vjerovao je da je razum u snažnoj korelaciji s moralom. Neuroznanstvenik David Chalmers, u svojoj studiji The Singularity: A Philosophical Analysis, preuzeo je Kantovu poznatu ideju i primijenio je na umjetnu superinteligenciju u nastajanju.

Ako je to istina... možemo očekivati ​​da će intelektualna eksplozija dovesti do eksplozije morala. Tada možemo očekivati ​​da će ASI sustavi u nastajanju biti supermoralni kao i superinteligentni, što nam omogućuje da očekujemo dobrotu od njih.

Ali ideja da će napredna umjetna inteligencija biti prosvijetljena i ljubazna sama po sebi nije baš uvjerljiva. Kao što je Armstrong istaknuo, ima mnogo pametnih ratnih zločinaca. Čini se da veza između razuma i morala ne postoji među ljudima, pa on dovodi u pitanje djelovanje ovog načela među drugim inteligentnim oblicima.

“Pametni ljudi koji se ponašaju nemoralno mogu prouzročiti bol u mnogo većoj mjeri od svojih glupljih kolega. Inteligencija im samo omogućuje da budu loši s više inteligencije, to ih ne čini dobrima", kaže Armstrong.

Kao što je objasnio McIntyre, sposobnost subjekta da postigne cilj nije povezana s time hoće li taj cilj biti razuman u početku. “Bit ćemo jako sretni ako su naše umjetne inteligencije jedinstveno nadarene i njihova razina morala raste zajedno s umom. Nadati se sreći nije najbolji pristup onome što bi moglo odrediti našu budućnost,” kaže.

Mit #8: "Rizici umjetne inteligencije i robotike su jednaki"

Stvarnost: Ovo je posebno uobičajena pogreška propagiraju nekritički mediji i holivudski filmovi poput Terminatora.

Da umjetna superinteligencija poput Skyneta stvarno želi uništiti čovječanstvo, ne bi koristila androide s mitraljezi sa šest cijevi. Mnogo bi učinkovitije bilo poslati biološku kugu ili nanotehnološki sivi trag. Ili samo uništiti atmosferu.

Umjetna inteligencija je potencijalno opasna ne zato što može utjecati na razvoj robotike, već zbog toga kako će njezina pojava utjecati na svijet općenito.

Mit #9: "Prikaz umjetne inteligencije u znanstvenoj fantastici točan je prikaz budućnosti"

Mnoge vrste umova. Slika: Eliezer Yudkowsky

Naravno, pisci i futuristi koristili su se znanstvenom fantastikom kako bi napravili fantastična predviđanja, ali horizont događaja koji je postavio ASI sasvim je druga priča. Štoviše, nehumana priroda umjetne inteligencije onemogućuje nam da znamo, a time i predvidimo, njenu prirodu i oblik.

Kako bismo zabavili nas glupe ljude, većina AI-ja u znanstvenoj fantastici je prikazana kao da izgleda poput nas. “Postoji spektar svih mogućih umova. Čak ste i među ljudima prilično različiti od svog susjeda, ali ta je varijacija ništa u usporedbi sa svim inteligencijama koje mogu postojati”, kaže McIntyre.

Većina znanstvene fantastike ne mora biti znanstveno točna da bi ispričala uvjerljivu priču. Sukob se obično odvija između heroja koji su bliski po snazi. “Zamislite kako bi bila dosadna priča u kojoj bi umjetna inteligencija bez svijesti, radosti ili mržnje dokrajčila čovječanstvo bez ikakvog otpora kako bi postigla nezanimljiv cilj”, zijeva Armstrong.

U tvornici Tesla rade stotine robota

Mit #10: "Strašno je što će AI preuzeti sav naš rad"

Stvarnost: Sposobnost umjetne inteligencije da automatizira mnogo toga što radimo i njen potencijal da uništi čovječanstvo dvije su vrlo različite stvari. Ali prema Martinu Fordu, autoru knjige U zoru robota: Tehnologija i prijetnja budućnosti bez posla, često ih se promatra kao cjelinu. Dobro je razmišljati o dalekoj budućnosti AI aplikacija, ali samo ako nas to ne odvrati od problema s kojima ćemo se morati suočiti u nadolazećim desetljećima. Glavni među njima je masovna automatizacija.

Nitko ne sumnja da će umjetna inteligencija zamijeniti mnoge postojeće poslove, od tvorničkog radnika do viših ešalona bijelih ovratnika. Neki stručnjaci predviđaju da će polovici svih radnih mjesta u SAD-u u bliskoj budućnosti prijetiti automatizacija.

Ali to ne znači da ne možemo podnijeti šok. Općenito, riješiti se većine našeg rada, i fizičkog i mentalnog, kvazi-utopijski je cilj naše vrste.

“Unutar nekoliko desetljeća umjetna inteligencija će izbrisati puno radnih mjesta, ali to nije loša stvar”, kaže Miller. Samovozeći automobili zamijenit će vozače kamiona, smanjujući troškove dostave i, kao rezultat, pojeftiniti mnoge proizvode. “Ako ste vozač kamiona i od toga živite, gubit ćete, ali naprotiv, svi drugi će za istu plaću moći kupiti više robe. A novac koji uštede potrošit će na drugu robu i usluge koje će stvoriti nova radna mjesta za ljude,” kaže Miller.

Po svoj prilici, umjetna inteligencija će stvoriti nove mogućnosti za proizvodnju dobra, oslobađajući ljude da rade druge stvari. Napredak u razvoju AI bit će popraćen napretkom u drugim područjima, posebice u proizvodnji. U budućnosti će nam biti lakše, a ne teže, zadovoljiti svoje osnovne potrebe.

Uvod

Tražeći ishodište ideja o umjetnoj inteligenciji, može se navesti mnoge činjenice i mitove. Od starogrčkog robota Talosa, kojeg je stvorio Zeus da čuva otok Kretu, ili Charlesa Babbagea s Adom Lovelace i njihovim analitičkim motorom iz sredine 19. stoljeća, do ideja Minskyja i McCartneyja, koji su stvorili modernu definiciju AI-a kao bilo koje radnje koju izvodi program ili stroj, za koju bismo, ako je izvodi neka osoba, rekli da treba pokazati inteligenciju ili domišljatost.

Za mene se izvori rođenja umjetne inteligencije vide u knjizi Galilea Galileija iz 1683. "Razgovori i matematički dokazi dviju novih znanosti".

U ovoj knjizi Galileo je, naime, napisao da je sve na svijetu, uključujući prirodni fenomen, može se izraziti u terminima matematike. Ispada da za bilo koju pojavu ili radnju možete smisliti algoritam. Dakle, umjetna inteligencija je skup algoritama za sve prilike. A jedna od glavnih sposobnosti umjetne inteligencije bit će sposobnost samostalnog sintetiziranja novih algoritama na temelju dostupnih podataka.

U skraćenom obliku to je već moguće. Na primjer, Googleov AlphaGo, nakon analize baze podataka od 30 milijuna poteza i nekoliko tisuća vježbi sam sa sobom, uspio je pobijediti najboljeg Go igrača na svijetu.

A IBM svoje superračunalo Watson osposobljava za pomoć liječnicima. Zadatak je naučiti računalo da traži odgovore na pitanja postavljena prirodnim jezikom, odnosno Watson nauči provoditi medicinsku anketu. Neka vrsta igre diferencijalne dijagnoze, samo računalo umjesto dr. Housea. Zapravo, ovo je kraj priče. Umjetna inteligencija u glavama stanovnika je Jarvis iz stripova Iron Man, Terminator ili, u najgorem slučaju, RoboCop (u filmu je dodana umjetna inteligencija ta koja kiborgu pomaže da puca vrlo brzo i precizno). Takva opcija, naravno, ima mjesto za biti, ali počnimo s onim što je danas dostupno.

Koje vrste umjetne inteligencije postoje danas?

Općenito, sve vrste umjetne inteligencije mogu se podijeliti u dvije kategorije - slaba ili ograničena umjetna inteligencija i opća ili jaka umjetna inteligencija.

Slab AI

Zapravo, imena govore sama za sebe. AI je danas prvi tip - ograničen, odnosno intelekt je zarobljen za određene zadatke. Na primjer, kada Samsung obećava da će do 2020. svaki njegov uređaj imati AI, podrazumijeva se upravo ograničena opcija. Primjeri su Siri ili Alice, koje mogu učiniti točno ono za što su programirane. Alice čak i kada nešto ne zna ili ne može ovako odgovara: "Programer mi je obećao da će me to kasnije naučiti."

U istu vrstu spadaju Google i Yandex karte koje analiziraju prometne gužve i iscrtavaju rute, kamere koje prepoznaju scene, inteligentna pećnica koja samostalno regulira razinu topline i robotski usisavač koji, kako god to objasnili, može samo usisavati, ali neće dati papuče.

I do sada je ova ograničena umjetna inteligencija jedina vrsta umjetne inteligencije kojom je čovječanstvo ovladalo. Slaba umjetna inteligencija može se podijeliti na ključne zadatke na kojima stručnjaci danas rade. Ovaj:

• prepoznavanje govora;
• računalni vid;
• obrada prirodnog jezika;
• traženje obrazaca ili analiza podataka;
• robotika.

Da biste postigli rješenje ovih problema, odnosno naučili neku umjetnu inteligenciju da razumije vaše riječi i prepoznaje slike, postoje dva načina.

1. simbolički pristup.

   Ovaj pristup vodio je od kasnih 40-ih do ranih 90-ih. Metoda se temelji na onome što se mislilo Najbolji način"Trenirati" AI znači hraniti ga što je moguće više znanja. Na primjer, ako govorimo u kontekstu medicine, onda se sve vrste udžbenika i baza znanja učitavaju u AI. A AI traži odgovore samo na temelju dostupnih informacija, obrađujući znanje samo prema pravilima koja je kreirao programer.

   Sukladno tome, ova vrsta umjetne inteligencije dobra je za rješavanje statičkih problema. Na primjer, u njega se mogu učitati svi udžbenici ruskog jezika, a AI će moći dobro provjeriti eseje, pronalazeći pravopisne i interpunkcijske pogreške, a fokusirajući se na ortoepske norme, moći će čak i izolirati govorne pogreške i nedostatke. Međutim, on će to učiniti samo na temelju pravila, odnosno ne razumijevanja konteksta, već izdvajanja ispravnog reda riječi i pravopisa.

   Drugi primjer je strojno prevođenje. AI obučena za simbole naoružana je svim vrstama rječnika i fraza. A ako je fraza koja mu je ponuđena na prijevod u jednom od njih, onda će je dobro prevesti, a ako ne, jednostavno će zamijeniti riječi, prijedloge i strukturu rečenice na temelju propisanih pravila.

2. Strojno učenje ili ne-simbolička umjetna inteligencija.

   Za razliku od simboličkog učenja, ova opcija učenja podrazumijeva da je umjetnoj inteligenciji pokazano kako riješiti određeni problem, nakon čega je puštena da slobodno lebdi. Ovako funkcioniraju neuronske mreže. Sjećam se da sam čitao o primjeru gdje je programer spojio AI na upravljanje prskalicama i naučio ga da vodom otjera susjedovu mačku koja je stekla naviku ići na WC na travnjak. Programer je AI-ju pokazao mnoštvo fotografija s mačkama, nakon čega je umjetna inteligencija razvila refleks da uključi prskalicu svaki put kad mu se učini da vidi nešto što izgleda kao mačka. Sustav nije uvijek radio glatko. Čini se da se nekako uključila kada je AI sjenu na pločniku zamijenila za mačku.

   Ako govorimo o primjeru prijevoda, tada obučeni AI može pokušati razumjeti kontekst fraze i zamijeniti u prijevodu ne prvu riječ koja ispunjava osnovne zahtjeve, već onu koja, po njegovom mišljenju, bolje odražava stil, emociju, sleng ili nešto drugo na čemu je trenirao.

Danas većina programera radije koristi drugu vrstu - strojno učenje, jer može, da tako kažem, improvizirati. Na primjer, ako je autonomni automobil obučen prema prvom tipu, tada će voziti prema pravilima, ali ako se na cesti pojavi nepredviđena situacija, automobil će biti u poteškoćama. A automobil obučen strojnim učenjem može djelovati u skladu s okolnostima, sintetizirajući ideje na temelju prethodno unesenih informacija.

Tu nastaje problem. Jedna od ključnih značajki simboličke umjetne inteligencije je da sustav uvijek može objasniti zašto je donio određenu odluku. Ali u slučaju strojnog učenja sve nije jednostavno. Zato taj isti UBER ili Tesla dugo pokušavaju shvatiti zašto su njihovi automobili donijeli ovu ili onu odluku koja je uzrokovala nesreću.

Međutim, za iste automobile simboličko učenje nije prikladno, jer se sva pravila za AI unose ručno, odnosno, relativno govoreći, trebate registrirati sve opcije za automobil - osoba je istrčala na cestu, kolica su se otkotrljala, kutija je izletjela itd. Zaboravio je nešto zapisati, a odjednom se ispostavilo da je auto udario losa, jer o njemu ništa nije rečeno u pravilniku, dok će strojna umjetna inteligencija moći pogoditi da ne možete oboriti sve četveronožne.

Slabi AI, kao što vidite, usprkos svojim ograničenjima ima brojne primjene – od pametne tehnologije, preko samovozećih automobila, do obrade podataka s pokušajima predviđanja budućnosti. Usput, Google Duplex, koji može rezervirati stolove u restoranu, također je ograničena umjetna inteligencija, jer može raditi upravo ono što su ga naučili.

Jaka umjetna inteligencija (sam)

Ovdje već počinje carstvo hipoteza, jer čovječanstvo još nije vidjelo ništa slično. Možda jedino u utrobi Googlea ili IBM-a živi nešto poluinteligentno. Na posljednjoj Google I/O konferenciji, vrlo pametna Kineskinja, Fei Fei Li, voditeljica odjela za strojno učenje i umjetnu inteligenciju u Google Cloudu, rekla je da je, iako je prošlo više od 60 godina od istraživanja umjetne inteligencije, znanost još uvijek u povojima i zasad se može govoriti samo o postizanju majstorstva u razvoju ograničene AI.

Međutim, predlažem da malo sanjamo o jakoj umjetnoj inteligenciji i pokušamo odrediti kakva bi trebala biti i što bi trebala moći učiniti. Vjeruje se da je jaka umjetna inteligencija pametna koliko i prosječna osoba, odnosno, u teoriji, može riješiti svaki problem.. A ako je prvi bio suočen sa zadatkom da uništi Johna Connora na bilo koji način, onda drugi žudi za maksimalnom entropijom. Terminator će, ako je metro zatvoren, ići autobusom ubiti Johna Connora, a ako se autobus pokvari, on će pješačiti ili pozvati taksi, a zlonamjernik će napisati da će sva reklama, da autor ništa ne razumije, pokušati baviti se demagogijom i sofizmom. Zapravo, najviše od svega, vlade diljem svijeta sanjaju o tome da se dočepaju snažne umjetne inteligencije za provođenje vojnih operacija i sabotiranje američkih izbora s vojskom računalnih trolova.

Google kaže da ako sve bude u redu, onda bi do 2050. moglo doći do proboja i pojaviti se prva jaka umjetna inteligencija.

Glavna slabost takve umjetne inteligencije je što, unatoč svim svojim sposobnostima, još uvijek ostaje relativno uskogrudan, poput prosječne osobe, ali za razliku od osobe, jaka umjetna inteligencija sve pamti i bolje je orijentirana u traženju i obradi informacija.

super jak intelekt

Ovo je potpuno izvan domene fantazije. Na primjer, Friday / Jarvis iz Iron Mana može se pripisati jednostavno jakoj inteligenciji.

Ako se sjećate, u jednom od filmova glavni lik Tony Stark pokušao je izmisliti neki novi neotrovni izvor energije kako bi ga stavio u svoja prsa. Jarvis mu je pomogao, ali samo je Tony Stark mogao riješiti problem jer AI nije imao dovoljno "razloga". Super jaki intelekt moći će samostalno riješiti i najviše izazovne zadatke. Njemu će čovječanstvo postaviti pitanje na koje će on odgovoriti "42", a zatim će supermoćna umjetna inteligencija strpati sve ljude u bačve s tekućinom i stvoriti fenomen odabranog (ovo nije glupost, već aluzija na knjigu "Vodič za autostopere kroz galaksiju" i film "Matrix").

Trebam li se bojati umjetne inteligencije?

Unatoč svim znanstvenofantastičnim filmovima, nema razloga za strah, barem do pojave najnovije vrste umjetne inteligencije. Međutim, morate se bojati ljudi koji se bave razvojem, jer, zbog pogreške ili namjerno, pravilo "ubiti sve ljude" umjesto "naučiti sve ljude" može biti položeno u isti ograničeni AI. A onda za AI, to je na malom - samo razjasniti značenja svih riječi u rječniku i prijeći na posao.

Međutim, razvoj čak i ograničene AI već je doveo i još će dovesti do mnogih problema u modernom društvu.

Problem jedan

Jedan od problema je uništavanje tradicionalne ljestvice karijere, budući da razvoj umjetne inteligencije dovodi do odbijanja poslova koji zahtijevaju prosječnu razinu vještina. Objasnit ću detaljnije. Za unos podataka u računalo potrebna nam je jeftina radna snaga, jer čovjek, relativno gledano, ipak zna bolje prepoznati “captchu”. Trebaju nam i oni koji će donositi odluke na temelju računalno obrađenih podataka. Ali obični analitičari više nisu potrebni, jer oni analiziraju i proučavaju podatke na temelju naučenih algoritama. Na primjer, kad sam bio analitičar, imao sam 42 različite opcije obrade podataka za izradu prognoza. Sve te opcije bile su organizirane u urednu prezentaciju koju sam redovito pregledavao kako bih shvatio koju je metodu najbolje koristiti u određenoj situaciji. Zamjena mene umjetnom inteligencijom čini se logičnom i opravdanom, jer će se puno brže nositi sa zadacima predviđanja. Sukladno tome, postoji praznina kada tradicionalna karijerna ljestvica od mlađeg analitičara do menadžera nestane, budući da na dnu karijere praktički nema manevra za demonstraciju inteligencije.

Problem dva

Također, zbog AI će postupno doći do odbacivanja osnovnih profesija koje se mogu algoritmizirati, odnosno svesti na jednostavne radnje. Nešto slično sada se može primijetiti u Auchanu i Lenti, gdje se blagajnice postupno zamjenjuju samoposlužnim automatima, kao i jedan zaposlenik koji pomaže u rješavanju problema koji nastaju, te zaštitar koji održava red. Zaštitara će ubuduće zamijeniti nadzorne kamere koje čuvaju red. Ispada da će doći do smanjenja vrijednosti ljudi.

Profesije koje će vrlo vjerojatno zamijeniti AI: poštari, draguljari, drvosječe, poljoprivrednici, tvornički radnici, osiguravatelji

Pročitao sam da San Francisco donekle može poslužiti kao ilustracija ovog problema. Ovaj grad u SAD-u odabrala je tehnološka elita. Sukladno tome, gradska ekonomija je usmjerena na zadovoljenje potreba elite, ali ljudi koji nisu vezani uz tehnološku ekonomiju imaju ogromne probleme. Zarađuju mnogo manje, a sve cijene u gradu su postavljene za IT startupe. Obični ljudi si ne mogu priuštiti takve troškove pa se ili sele ili pridružuju ionako ogromnoj vojsci beskućnika.

Međutim, ovdje postoji ključna značajka koja će zadržati neka zanimanja. Umjetnoj inteligenciji su potrebni stvoreni uvjeti za rad. Na primjer, robot usisavač može se voziti samo po glatkim podovima i svladavati male neravnine. Sukladno tome, mnoge osnovne profesije moći će se održati sve dok je preteško i preskupo stvarati njihovu umjetnu zamjenu. Na primjer, u prostoriji s mnogo vrata, robot za čišćenje treba imati ili manipulatore za okretanje ručki na vratima ili se sva vrata moraju automatski otvarati. Oboje je prilično skupo, ali Sarhat iz srednje Azije ima ruke i pamet da se nosi s krpom i kvakom, ali nema registracije i smanjene plaće.

Problem tri

Čak je i ograničena umjetna inteligencija uvelike potaknula fenomen slobodnjaka. Platforme za odabir i zapošljavanje zaposlenika na daljinu svake godine sve više cvjetaju. Primjerice, prema posljednjim statistikama, u SAD-u, prvom svjetskom gospodarstvu, 55 milijuna ljudi radi kao freelanceri.

I to u sadašnjoj generaciji, obratite pozornost na ilustraciju. Sve veća radna snaga ne voli sjediti u uredu. Sukladno tome doći će i do pomaka u organizaciji rada. Kompanije će se suočiti s izazovima u zapošljavanju i zadržavanju zaposlenika, jer zašto posvetiti svoj život jednoj tvrtki kada ste dostupni online i možete tražiti posao po cijelom svijetu.

Problem četvrti

Prilično ozbiljan problem je društvena nejednakost, koju sam već spomenuo u problemu broj 2. Bit će sve gore. Pretpostavljam da ste iz članka pogodili da, kako biste bili uspješni u novom svijetu, morate biti hitri i "vi" s moderne tehnologije. Nije tajna da siromašni imaju lošiji pristup obrazovanju. Prema tome, siromašni se neće moći probiti na novu razinu, jer jednostavno neće imati priliku naučiti nešto korisno, jer su potrebne godine intenzivnog treninga da se dobro razmisli, a gdje ih nabaviti kada treba tražiti hranu.

Novo društvo treba ili jeftinu radnu snagu ili intelektualne donositelje odluka.

Problem pet

Može se ukratko formulirati – tko je na čelu? Ljudi uključeni u razvoj AI sustava imat će posebnu odgovornost, budući da podučavaju AI, na temelju kojih će podataka AI donositi odluke. Hoće li to biti zakoni robotike iz Asimova ili druga pravila koja štite određeni sloj ljudi.

Zašto je umjetna inteligencija dobra?

Gore navedeni problemi djeluju pomalo zastrašujuće, ali AI je dvosjekli mač koji može pomoći.

dobro 1

Umjetna inteligencija će poslužiti snažan poticaj za razvoj mnogih područja. Dobar primjer je medicina. Danas, u 21. stoljeću, liječnici nastavljaju liječiti na isti način kao i prije sto godina. Trpaju udžbenike. Ovo je loša opcija, jer nijedan liječnik ne može zapamtiti napamet sve simptome svih bolesti. Posljedice takvih pogrešaka mogu biti kobne. Lokalni liječnik do posljednjeg je inzistirao da su uzroci majčinih bolesti prehlade i umor, jer su svi glavni simptomi bili prisutni. I tek kad je bilo prekasno, oglasila se točna dijagnoza - akutna leukemija, bolest koju je dosta teško prepoznati. I u ovoj situaciji, izlaz bi bila prisutnost umjetne inteligencije koja pamti sve bolesti i simptome i koja se nikad ne umara.

Ista promjena može se dogoditi u području prava, gdje odvjetnici i suci moraju imati na umu sve zakone, presedane i mnoge dokaze.

Blago 2

AI će pomoći u stvaranju personaliziranog iskustva. Ovu tvrdnju najbolje možemo ilustrirati na primjeru treninga. Danas su učitelji preopterećeni i fizički ne mogu pohađati sve učenike. Ali svatko ima svoj tempo svladavanja novog gradiva. Sustavi učenja temeljeni na umjetnoj inteligenciji prate brzinu učenja, vide hoće li učenik dobro ili loše pamtiti, čita li pažljivo ili mu odvraća pozornost. Na temelju toga se gradi individualni tempo učenja i odabiru vježbe za konsolidaciju.

Istodobno, postoji činjenica da je ljudima lakše shvatiti novo gradivo uz pomoć AI-a, jer je u tom slučaju strah od pogreške znatno smanjen. Mogu se složiti s ovom tvrdnjom. Moralno je lakše primiti ogorčeni zvučni signal s računala da je primjer netočno riješen nego izdržati pogled Olge Stepanovne, moje profesorice matematike.

AI će moći posvetiti jednaku pozornost svim ljudima. To uključuje sva područja, od obrazovanja i medicine do odabira modernog imidža (u skladu s vrstom figure, oblika lica i trendovima sezone) i treninga u teretani.

Blago 3

Već danas je naš svijet pun informacija. Svi se podaci prikupljaju s bilo kojeg mjesta, s vremenski uvjeti a završava s koliko je koraka osoba hodala.

Umjetna inteligencija s pristupom big data moći će analizirati te podatke i tražiti korelaciju, kako broj koraka utječe na zdravlje, ali ne apstraktno, već uzimajući u obzir određeno vrijeme. Analiza kretanja putničkog prometa pomoći će u smanjenju zagušenja, smanjenju broja prometnih kolapsa tijekom vršnih sati. Ukratko, podaci koji se mogu analizirati bit će analizirani i AI će predstaviti svoje nalaze.

Zaključak

Danas je umjetna inteligencija pokazala da je dobra samo u rješavanju zadataka za koje je osposobljena, pa čak i bolja u njima od običnih ljudi. Pametni telefon lako može pobijediti velemajstora i bez kraljice, japanski AI koji je napisao kratki roman ušao je u finale književnog natječaja, a njegova braća pišu i izvode dobru glazbu.

Međutim, nažalost, AI je još uvijek u povojima. Može samo ono što su ga naučili - analizirati mnoštvo književnih ili glazbenih djela i sintetizirati nešto svoje ili pamtiti milijune poteza i odabrati najbolji.

Glavni problemi koji stoje na putu razvoju ograničene umjetne inteligencije su nedostatak univerzalnih algoritama za razumijevanje okolnog svijeta i infrastrukture (za prikupljanje podataka potrebno je mnogo senzora, za bespilotne automobile, ceste sa savršenim oznakama, za razumijevanje zahtjeva vlasnika, glasovni asistenti trebaju bolje algoritme).

Za nastanak jake umjetne inteligencije potrebna je bitno drugačija računalna snaga i algoritmi za obradu informacija koji oponašaju ono što ljudi nazivaju intuicijom. Vjerojatno ćemo u bliskoj budućnosti promatrati različite varijante ograničene umjetne inteligencije s ugrađenim algoritmima ponašanja za različite uvjete.

Umjetna inteligencija stvorila je neuronsku mrežu 15. prosinca 2017

Doživjeli smo točku u kojoj umjetna inteligencija stvara vlastitu neuronsku mrežu. Iako mnogi misle da su jedno te isto. Ali zapravo nije sve tako jednostavno, a sada ćemo pokušati shvatiti što je to i tko koga može stvoriti.

Inženjeri iz odjela Google Brain demonstrirali su AutoML ovog proljeća. Ova umjetna inteligencija je u stanju proizvesti vlastitu jedinstvenu AI bez ljudske intervencije. Kako se nedavno pokazalo, AutoML je prvi put uspio stvoriti NASNet, sustav računalnog vida. Ova tehnologija ozbiljno nadmašuje sve analoge koje su ranije stvorili ljudi. Ovaj sustav temeljen na umjetnoj inteligenciji može biti odličan pomoćnik u razvoju, recimo, autonomni automobili. Primjenjivo je i u robotici - roboti će moći doseći potpuno novu razinu.

Razvoj AutoML-a temelji se na jedinstvenom sustavu učenja s pojačanjem. Riječ je o menadžerskoj neuronskoj mreži koja samostalno razvija potpuno nove neuronske mreže namijenjene određenim osobama specifične zadatke. U slučaju koji smo naveli, AutoML ima za cilj proizvesti sustav koji najpreciznije prepoznaje objekte u videu u stvarnom vremenu u stvarnom vremenu.

Sama umjetna inteligencija uspjela je trenirati novu neuronsku mrežu, pratiti pogreške i ispravljati rad. Proces treninga se ponavljao mnogo puta (tisuće puta) dok sustav nije bio spreman za rad. Zanimljivo, uspjela je zaobići sve slične neuronske mreže koje su trenutno dostupne, ali ih je dizajnirala i trenirala osoba.

U isto vrijeme, AutoML procjenjuje izvedbu NASNet-a i koristi te informacije za poboljšanje podređene mreže; taj se proces ponavlja tisućama puta. Kada su inženjeri testirali NASNet na ImageNet i COCO skupovima slika, nadmašio je sve postojeće sustave računalnog vida.

Google je službeno izjavio da NASNet prepoznaje s točnošću od 82,7%. Rezultat je 1,2% viši od prethodnog rekorda koji su početkom jeseni ove godine postavili istraživači Momente i stručnjaci s Oxforda. NASNet je 4% učinkovitiji od svojih kolega s prosječnom preciznošću od 43,1%.

Postoji i pojednostavljena verzija NASNet-a, koja je prilagođena mobilnim platformama. Nadmašuje analoge za nešto više od tri posto. U bliskoj budućnosti ovaj će sustav biti moguće koristiti za proizvodnju autonomnih automobila za koje je važan računalni vid. AutoML nastavlja proizvoditi nove nasljedne neuronske mreže, nastojeći osvojiti još veće visine.

Ovo, naravno, postavlja etička pitanja oko zabrinutosti oko umjetne inteligencije: što ako AutoML gradi sustave takvom brzinom da ih društvo jednostavno ne može pratiti? Međutim, mnogi velike tvrtke pokušajte uzeti u obzir sigurnosne probleme AI. Primjerice, Amazon, Facebook, Apple i neke druge korporacije članovi su Partnership on AI to Benefit People and Society. Institute of Electrical and Engineers (IEE) također je predložio etičke standarde za AI, a DeepMind je, primjerice, najavio stvaranje grupe koja će se baviti moralnim i etičkim pitanjima vezanim uz primjene umjetne inteligencije.

Međutim, mnoge velike tvrtke pokušavaju uzeti u obzir sigurnosna pitanja umjetne inteligencije. Ovo, naravno, postavlja etička pitanja oko zabrinutosti oko umjetne inteligencije: što ako AutoML gradi sustave takvom brzinom da ih društvo jednostavno ne može pratiti? Institute of Electrical and Engineers (IEE) također je predložio etičke standarde za AI, a DeepMind je, primjerice, najavio stvaranje grupe koja će se baviti moralnim i etičkim pitanjima vezanim uz primjene umjetne inteligencije. Primjerice, Amazon, Facebook, Apple i neke druge korporacije članovi su Partnership on AI to Benefit People and Society.

Što je umjetna inteligencija?

Autor pojma "umjetna inteligencija" je John McCarthy, izumitelj jezika Lisp, utemeljitelj funkcionalnog programiranja i dobitnik Turingove nagrade za veliki doprinos u području istraživanja umjetne inteligencije.
Umjetna inteligencija je način da se napravi računalo, računalno kontrolirani robot ili program koji može također razmišljati inteligentno poput čovjeka.

Istraživanja u području umjetne inteligencije provode se proučavanjem mentalnih sposobnosti čovjeka, a potom se rezultati tih istraživanja koriste kao osnova za razvoj inteligentnih programa i sustava.

Što je neuronska mreža?

Ideja neuronske mreže je sastaviti složenu strukturu od vrlo jednostavnih elemenata. Malo je vjerojatno da se samo jedan dio mozga može smatrati inteligentnim - ali ljudi obično postižu iznenađujuće dobre rezultate na IQ testu. Ipak, do sada je ideja o stvaranju uma “ni iz čega” obično bila ismijavana: vic o tisuću majmuna s pisaćim strojevima star je već stotinjak godina, a ako hoćete, kritika neuronskih mreža može se pronaći čak i kod Cicerona, koji je sarkastično predložio bacanje žetona sa slovima u zrak dok ne pomodrite, kako bi prije ili kasnije ispao smisleni tekst. Međutim, u 21. stoljeću pokazalo se da su klasici bili uzalud sarkastični: vojska majmuna sa žetonima je ta koja uz dužnu ustrajnost može osvojiti svijet.
Zapravo, neuronska mreža se čak može sastaviti od kutija šibica: to je samo skup jednostavnih pravila prema kojima se informacije obrađuju. “Umjetni neuron”, odnosno perceptron, ne naziva se neka posebna naprava, već samo nekoliko aritmetičkih operacija.

Perceptron ne radi lakše: prima nekoliko početnih brojeva, množi svaki s "vrijednošću" ovog broja (o tome malo niže), zbraja i, ovisno o rezultatu, daje 1 ili -1. Na primjer, fotografiramo otvoreno polje i našem neuronu pokažemo neku točku na ovoj slici - to jest, šaljemo mu nasumične koordinate kao dva signala. I onda pitamo: “Dragi neurone, je li ovo nebo ili zemlja?” - “Minus jedan”, odgovara lutka, spokojno gledajući u kumulus. "Jasno je da zemlja."

“Guranje prstom u nebo” glavna je zanimacija perceptrona. Od njega se ne može očekivati ​​točnost: jednako tako možete baciti novčić. Magija počinje u sljedeća razinašto se naziva strojno učenje. Uostalom, znamo točan odgovor, što znači da ga možemo napisati u naš program. Tako ispada da za svako netočno pogađanje perceptron doslovno dobiva kaznu, a za točno pogađanje bonus: “vrijednost” dolaznih signala se povećava ili smanjuje. Nakon toga se program izvodi prema novoj formuli. Prije ili kasnije, neuron će neizbježno "shvatiti" da je zemlja ispod na fotografiji, a nebo iznad, odnosno jednostavno će početi ignorirati signal iz kanala kroz koji mu se prenose x-koordinate. Ako se tako iskusnom robotu doda još jedna fotografija, možda neće pronaći liniju horizonta, ali sigurno neće pobrkati vrh s dnom.

U stvarnom radu, formule su malo kompliciranije, ali princip ostaje isti. Perceptron može obaviti samo jedan zadatak: uzeti brojeve i razvrstati ih u dvije hrpe. Najzanimljivija stvar počinje kada postoji nekoliko takvih elemenata, jer dolazni brojevi mogu biti signali iz drugih "cigli"! Recimo da će jedan neuron pokušati razlikovati plave od zelenih piksela, drugi će nastaviti petljati s koordinatama, a treći će pokušati procijeniti koji je od ova dva rezultata bliži istini. Ako postavite nekoliko neurona na plave piksele odjednom i zbrojite njihove rezultate, dobit ćete cijeli sloj u kojem će "najbolji studenti" dobiti dodatne bonuse. Dakle, dovoljno raširena mreža može pregrnuti cijelo brdo podataka i uzeti u obzir sve njegove pogreške.

Neuronska mreža može se napraviti pomoću kutija šibica - tada ćete u svom arsenalu imati trik kojim možete zabavljati goste na zabavama. Urednici MirF-a već su to isprobali – i ponizno priznaju superiornost umjetne inteligencije. Naučimo bezumnu materiju kako igrati igru ​​11 štapića. Pravila su jednostavna: na stolu je 11 šibica, au svakom potezu možete uzeti jednu ili dvije. Pobjeđuje onaj koji uzme zadnji. Kako igrati protiv "kompjutera"?

Jako jednostavno.

Uzimamo 10 kutija ili čaša. Na svaki napišite broj od 2 do 11.

U svaku kutiju stavimo po dva kamenčića – crni i bijeli. Možete koristiti bilo koje predmete - sve dok se međusobno razlikuju. To je to – imamo mrežu od deset neurona!

Neuronska mreža uvijek ide prva. Za početak pogledajte koliko je šibica ostalo i uzmite kutije s tim brojem. U prvom redu to će biti loža broj 11. Uzmite bilo koji kamenčić iz desne kutije. Možete zatvoriti oči ili baciti novčić, glavna stvar je djelovati nasumično.
Ako je kamen bijeli, neuronska mreža odlučuje uzeti dvije šibice. Ako je crna - jedna. Stavite kamenčić pokraj kutije kako ne biste zaboravili koji je "neuron" donio odluku. Nakon toga čovjek prohoda – i tako dok ne ponestane šibica.

Sada dolazi zabavni dio: učenje. Ako je mreža pobijedila u igri, tada mora biti nagrađena: bacite još jedan kamenčić iste boje koji je pao tijekom igre u one "neurone" koji su sudjelovali u ovoj igri. Ako je mreža izgubljena, uzmite posljednju korištenu kutiju i iz nje izvadite neuspješno igrani kamen. Može se ispostaviti da je okvir već prazan, u kojem slučaju se prethodni sličan neuron smatra posljednjim. Tijekom sljedeće utakmice, udaranje prazne kutije, neuronska mreža će automatski odustati.

To je sve! Igrajte nekoliko ovakvih igara. U početku nećete primijetiti ništa sumnjivo, no nakon svake pobjede mreža će povlačiti sve uspješnije poteze – a nakon desetak partija shvatit ćete da ste stvorili čudovište koje ne možete pobijediti.

Izvori:

Ove godine pokrenut je Yandex glasovni pomoćnik"Alice". Nova usluga omogućuje korisniku slušanje vijesti i vremenske prognoze, dobivanje odgovora na pitanja i jednostavno komuniciranje s botom. "Alice" ponekad drzak, ponekad djeluje gotovo razumno i ljudski sarkastično, ali često ne može shvatiti što je pitaju, te sjedne u lokvu.

Sve je to potaknulo ne samo val šala, već i novi krug rasprava o razvoju umjetne inteligencije. Vijesti o tome što su pametni algoritmi postigli danas stižu gotovo svakodnevno, a strojno učenje nazivaju jednim od najperspektivnijih područja kojemu se treba posvetiti.

Kako bismo razjasnili glavna pitanja o umjetnoj inteligenciji, razgovarali smo sa Sergejem Markovim, stručnjakom za metode umjetne inteligencije i strojnog učenja, autorom jednog od najmoćnijih domaćih šahovskih programa SmarThink i kreatorom projekta XXIII.

Sergej Markov,

stručnjak za umjetnu inteligenciju

Razotkrivanje mitova o umjetnoj inteligenciji

Dakle, što je "umjetna inteligencija"?

Koncept "umjetne inteligencije" pomalo je nesretan. Prvotno nastala u znanstvenoj zajednici, s vremenom je prodrla u znanstvenofantastičnu književnost, a preko nje i u pop kulturu, gdje je doživjela niz promjena, obrasla brojnim interpretacijama, da bi na kraju bila potpuno mistificirana.

Zbog toga često čujemo takve izjave od nestručnjaka kao što su: "AI ne postoji", "AI se ne može stvoriti". Nerazumijevanje suštine istraživanja koja se provode u području umjetne inteligencije lako vodi ljude u druge krajnosti – primjerice, modernim AI sustavima pripisuje se prisutnost svijesti, slobodne volje i tajnih motiva.

Pokušajmo odvojiti muhe od kotleta.

U znanosti se umjetna inteligencija odnosi na sustave dizajnirane za rješavanje intelektualnih problema.

S druge strane, intelektualni zadatak je zadatak koji ljudi rješavaju uz pomoć vlastitog intelekta. Napominjemo da u ovom slučaju stručnjaci namjerno izbjegavaju definirati pojam „inteligencije“, jer je prije pojave AI sustava jedini primjer inteligencije bio ljudski intelekt, a definirati pojam inteligencije na temelju jednog primjera isto je kao pokušavati povući ravnu liniju kroz jednu točku. Takvih redaka može biti koliko god želite, što znači da bi se rasprava o pojmu inteligencije mogla voditi stoljećima.

"jaka" i "slaba" umjetna inteligencija

AI sustavi podijeljeni su u dvije velike skupine.

Primijenjena umjetna inteligencija(također koriste izraz "weak AI" ili "narrow AI", u engleskoj tradiciji - slaba / primijenjena / uska umjetna inteligencija) je umjetna inteligencija dizajnirana za rješavanje bilo kojeg intelektualnog zadatka ili manjeg broja njih. Ova klasa uključuje sustave za igranje šaha, go, prepoznavanje slike, govora, donošenje odluka o izdavanju ili neizdavanju bankovnog kredita i tako dalje.

Za razliku od primijenjene umjetne inteligencije, uvodi se koncept univerzalna umjetna inteligencija(također "jaka AI", na engleskom - jaka AI / Artificial General Intelligence) - odnosno hipotetska (do sada) AI sposobna riješiti sve intelektualne zadatke.

Često ljudi, ne poznavajući terminologiju, poistovjećuju AI s jakom AI, zbog toga nastaju prosudbe u duhu "AI ne postoji".

Jaka umjetna inteligencija zapravo još ne postoji. Praktično sav napredak koji smo vidjeli u posljednjem desetljeću na polju umjetne inteligencije bio je napredak u primijenjenim sustavima. Ti se uspjesi ne mogu podcijeniti, budući da primijenjeni sustavi u nekim slučajevima mogu riješiti intelektualne probleme bolje nego što to čini univerzalna ljudska inteligencija.

Mislim da ste primijetili da je koncept umjetne inteligencije prilično širok. Recimo da je mentalno brojanje također intelektualni zadatak, što znači da će se svaki računski stroj smatrati sustavom umjetne inteligencije. Što je s računima? abakus? Antikiterski mehanizam? Doista, sve su to formalni, iako primitivni, ali AI sustavi. Međutim, obično, nazivajući neki sustav AI sustavom, time naglašavamo složenost zadatka koji taj sustav rješava.

Sasvim je očito da je podjela intelektualnih zadataka na jednostavne i složene vrlo umjetna, a naše predodžbe o složenosti pojedinih zadataka postupno se mijenjaju. Mehanički računski stroj bio je čudo tehnike u 17. stoljeću, ali danas ljude koji su se od djetinjstva suočavali s mnogo složenijim mehanizmima više ne može impresionirati. Kada igra autića u Gou ili autopiloti automobila prestanu iznenađivati ​​javnost, sigurno će biti ljudi koji će se zgražati nad činjenicom da će netko takve sustave pripisati umjetnoj inteligenciji.

"Roboti-odlični studenti": o sposobnosti AI da uči

Još jedna smiješna zabluda je da AI sustavi moraju imati sposobnost samoučenja. S jedne strane, to uopće nije obvezno svojstvo AI sustava: postoji mnogo nevjerojatnih sustava koji nisu sposobni sami učiti, ali ipak rješavaju mnoge probleme bolje od ljudskog mozga. S druge strane, neki ljudi jednostavno ne znaju da je samoučenje značajka koju su mnogi AI sustavi stekli čak i prije više od pedeset godina.

Kad sam 1999. godine napisao svoj prvi šahovski program, samoučenje je već bilo uobičajeno na ovim prostorima - programi su mogli pamtiti opasne pozicije, prilagođavati varijacije otvaranja za sebe, prilagođavati stil igre, prilagođavati se protivniku. Naravno, ti su programi bili još jako daleko od Alpha Zero. Međutim, već su postojali čak i sustavi koji uče ponašanje na temelju interakcija s drugim sustavima u takozvanim eksperimentima s "učenjem s pojačanjem". Međutim, iz nekog neobjašnjivog razloga, neki ljudi još uvijek misle da je sposobnost samoučenja prerogativ ljudskog intelekta.

Strojno učenje, cijelo znanstvena disciplina, bavi se procesima učenja strojeva za rješavanje određenih problema.

Postoje dva velika pola strojnog učenja - nadzirano učenje i nenadzirano učenje.

Na učenje s učiteljem stroj već ima nekoliko uvjetno točnih rješenja za neki skup slučajeva. Zadatak učenja u ovom slučaju je naučiti stroj, na temelju dostupnih primjera, donositi ispravne odluke u drugim, nepoznatim situacijama.

Druga krajnost - učenje bez učitelja. Odnosno, stroj je stavljen u situaciju u kojoj su točna rješenja nepoznata, postoje samo podaci u sirovom, neoznačenom obliku. Ispostavilo se da je u takvim slučajevima moguće postići određeni uspjeh. Na primjer, možete naučiti stroj da identificira semantičke odnose između riječi u jeziku na temelju analize vrlo velikog skupa tekstova.

Jedna vrsta nadziranog učenja je učenje s potkrepljenjem. Ideja je da AI sustav djeluje kao agent smješten u neko okruženje modela u kojem može komunicirati s drugim agentima, na primjer, sa svojim kopijama, i primati povratne informacije iz okoline putem funkcije nagrađivanja. Na primjer, šahovski program koji se igra sam sa sobom, postupno prilagođava svoje parametre i time postupno jača vlastitu igru.

Učenje s potkrepljenjem je prilično široko područje i koristi mnoge zanimljive tehnike u rasponu od evolucijskih algoritama do Bayesove optimizacije. Nedavni napredak u umjetnoj inteligenciji za igre upravo je povezan s pojačavanjem umjetne inteligencije tijekom učenja s potkrepljenjem.

Tehnološki rizici: Trebamo li se bojati sudnjeg dana?

Nisam jedan od uzbunjivača umjetne inteligencije i u tom smislu nipošto nisam sam. Na primjer, Andrew Ng, tvorac tečaja Stanford Machine Learning, uspoređuje opasnosti umjetne inteligencije s problemom prenapučenosti na Marsu.

Doista, u budućnosti je vjerojatno da će ljudi kolonizirati Mars. Također je vjerojatno da će se prije ili kasnije na Marsu pojaviti problem prenapučenosti, ali nije sasvim jasno zašto bismo se sada bavili tim problemom? Slažem se s Yn i Yang LeKun - tvorcem konvolucijskih neuronskih mreža, i njegovim šefom Markom Zuckerbergom, te Joshuom Benoom - osobom, u velikoj mjeri zahvaljujući čijim istraživanjima moderne neuronske mreže mogu riješiti složene probleme u području obrade teksta.

Vjerojatno će biti potrebno nekoliko sati da iznesem svoje viđenje ovog problema, pa ću se fokusirati samo na glavne teze.

1. NEMOJTE OGRANIČAVATI RAZVOJ AI

Uzbunjivači razmatraju rizike povezane s potencijalnim poremećajem umjetne inteligencije, a zanemaruju rizike povezane s pokušajima ograničavanja ili čak zaustavljanja napretka u ovom području. Tehnološka moć čovječanstva raste iznimno velikom brzinom, što dovodi do učinka koji ja nazivam "pojeftinjenje cijene apokalipse".

Prije 150 godina, uz svu volju, čovječanstvo nije moglo nanijeti nepopravljivu štetu ni biosferi ni sebi kao vrsti. Da bi se proveo katastrofalni scenarij prije 50 godina, bilo bi potrebno koncentrirati svu tehnološku snagu nuklearne sile. Sutra za provedbu globalne katastrofa izazvana ljudskim djelovanjem mala šačica fanatika može biti dovoljna.

Naša tehnološka moć raste mnogo brže od sposobnosti ljudske inteligencije da kontrolira ovu moć.

Ako se ljudska inteligencija, sa svojim predrasudama, agresijom, zabludama i uskogrudnošću, ne zamijeni sustavom sposobnim donositi informiranije odluke (bilo da se radi o umjetnoj inteligenciji ili, što smatram vjerojatnijim, tehnološki poboljšanoj ljudskoj inteligenciji integriranoj sa strojevima u jedan sustav), mogli bismo se suočiti s globalnom katastrofom.

2. stvaranje superinteligencije je fundamentalno nemoguće

Postoji ideja da će AI budućnosti sigurno biti superinteligentan, superiorniji od ljudi čak i više nego što su ljudi superiorniji od mrava. U ovom slučaju, bojim se razočarati i tehnološke optimiste - naš Svemir sadrži niz temeljnih fizičkih ograničenja, koja će, očito, učiniti stvaranje superinteligencije nemogućim.

Na primjer, brzina prijenosa signala ograničena je brzinom svjetlosti, a Heisenbergova nesigurnost pojavljuje se na Planckovoj ljestvici. To implicira prvu temeljnu granicu - Bremermannovu granicu, koja uvodi ograničenja na najveća brzina proračuni za autonomni sustav zadane mase m.

Drugo ograničenje vezano je uz Landauerovo načelo, prema kojem se prilikom obrade 1 bita informacije oslobađa minimalna količina topline. Prebrzi izračuni uzrokovat će neprihvatljivo zagrijavanje i uništavanje sustava. U stvari, moderni procesori su manje od tisuću puta iza Landauerove granice. Čini se da je 1000 dosta, ali drugi problem je što mnogi intelektualni zadaci pripadaju klasi složenosti EXPTIME. To znači da je vrijeme potrebno za njihovo rješavanje eksponencijalna funkcija veličine problema. Ubrzavanje sustava nekoliko puta daje samo stalni porast "inteligencije".

Općenito, postoje vrlo ozbiljni razlozi za vjerovanje da super-inteligentna snažna umjetna inteligencija neće funkcionirati, iako bi, naravno, razina ljudske inteligencije mogla biti nadmašena. Koliko je opasno? Najvjerojatnije ne baš puno.

Zamislite da ste odjednom počeli razmišljati 100 puta brže od drugih ljudi. Znači li to da ćete lako nagovoriti bilo kojeg prolaznika da vam da svoj novčanik?

3. brinemo o nečem drugom

Nažalost, kao rezultat nagađanja uzbunjivača o strahovima javnosti, potaknutih na Terminator i Clarkov i Kubrickov slavni HAL 9000, dolazi do pomaka u fokusu AI sigurnosti prema analizi malo vjerojatnih, ali spektakularnih scenarija. U isto vrijeme, stvarne opasnosti izmiču iz vida.

Svaka dovoljno složena tehnologija koja tvrdi da zauzima važno mjesto u našem tehnološkom krajoliku svakako sa sobom nosi specifične rizike. Parni strojevi uništili su mnoge živote - u proizvodnji, transportu i tako dalje - prije nego što su uspostavljena učinkovita sigurnosna pravila i mjere.

Ako govorimo o napretku u području primijenjene umjetne inteligencije, možemo obratiti pozornost na problem takozvanog "Digitalnog tajnog suda". Sve više primijenjenih AI sustava donosi odluke o pitanjima koja utječu na život i zdravlje ljudi. Tu spadaju medicinski dijagnostički sustavi, pa npr. sustavi koji donose odluke u bankama o izdavanju ili neizdavanju kredita klijentu.

Istodobno, struktura korištenih modela, skupovi korištenih faktora i drugi detalji postupka odlučivanja skriveni su od osobe čija je sudbina u pitanju.

Korišteni modeli svoje odluke mogu temeljiti na mišljenjima stručnih učitelja koji su sustavno griješili ili imali određene predrasude – rasne, spolne.

Umjetna inteligencija obučena na odlukama takvih stručnjaka savjesno će reproducirati te predrasude u svojim odlukama. Uostalom, ti modeli mogu sadržavati određene nedostatke.

Rijetki se ljudi sada bave tim problemima, jer, naravno, SkyNet pokretanje nuklearnog rata je, naravno, puno spektakularnije.

Neuronske mreže kao "vrući trend"

S jedne strane, neuronske mreže su jedna od naj vintage modeli koristi se za stvaranje AI sustava. Prvobitno nastali kao rezultat primjene bioničkog pristupa, brzo su pobjegli od svojih bioloških prototipova. Jedina iznimka ovdje su impulsne neuronske mreže (međutim, još nisu pronašle široku primjenu u industriji).

Napredak posljednjih desetljeća povezan je s razvojem tehnologija dubokog učenja - pristupom u kojem se neuronske mreže sastavljaju od veliki broj slojeva, od kojih je svaki izgrađen na temelju određenih pravilnih obrazaca.

Osim stvaranja novih modela neuronskih mreža, značajan napredak postignut je iu području tehnologija učenja. Danas se neuronske mreže više ne podučavaju uz pomoć središnjih procesora računala, već uz korištenje specijaliziranih procesora sposobnih za brzo izvođenje matričnih i tenzorskih izračuna. Najčešća vrsta takvih uređaja danas su video kartice. Međutim, aktivno se razvijaju još specijaliziraniji uređaji za treniranje neuronskih mreža.

Općenito, naravno, neuronske mreže danas su jedna od glavnih tehnologija u području strojnog učenja, kojima dugujemo rješenje mnogih problema koji su prije bili nezadovoljavajuće riješeni. S druge strane, naravno, morate shvatiti da neuronske mreže nisu lijek za sve. Za neke zadatke oni su daleko od najučinkovitijeg alata.

Koliko su današnji roboti zapravo pametni?

Sve je relativno. Na pozadini tehnologija iz 2000. godine, sadašnja postignuća izgledaju kao pravo čudo. Uvijek će biti ljudi koji vole gunđati. Prije 5 godina govorili su na sav glas da strojevi nikada neće pobijediti ljude u Gou (ili barem neće vrlo brzo). Rečeno je da stroj nikad ne bi mogao nacrtati sliku ispočetka, dok danas ljudi praktički ne mogu razlikovati slike stvorene strojevima od slika njima nepoznatih umjetnika. Krajem prošle godine strojevi su naučili sintetizirati govor koji se gotovo ne razlikuje od ljudskog, a posljednjih godina uši ne venu od glazbe koju stvaraju strojevi.

Da vidimo što će se dogoditi sutra. Gledam na ove primjene umjetne inteligencije s velikim optimizmom.

Obećavajući smjerovi: gdje započeti ronjenje u polje AI?

Savjetovao bih vam da pokušate dobra razina ovladati jednim od popularnih okvira neuronske mreže i jednim od programskih jezika popularnih u području strojnog učenja (danas je najpopularnija kombinacija TensorFlow + Python).

Nakon što ste ovladali ovim alatima i idealno imajući snažnu bazu u području matematičke statistike i teorije vjerojatnosti, trebali biste usmjeriti svoje napore na područje koje će vama osobno biti najzanimljivije.

Interes za predmet rada jedan je od Vaših najvažnijih pomoćnika.

Potreba za stručnjacima za strojno učenje postoji u raznim područjima – u medicini, bankarstvu, znanosti, proizvodnji, pa danas dobar stručnjak ima više izbora nego ikada. Potencijalne koristi od bilo koje od ovih industrija čine mi se beznačajnima u usporedbi s činjenicom da će vam rad donijeti zadovoljstvo.