Každý deň sa objavuje nespočetné množstvo titulkov z nespočetných zdrojov na celom svete, čo varuje pred hroznými dôsledkami a sľubnými utopickými budúcnosťami - to všetko vďaka umelej inteligencii. AI „transformuje pracovisko“, píše denník Wall Street Journal, zatiaľ čo časopis Fortune nám hovorí, že čelíme „revolúcii AI“, ktorá „zmení naše životy“. Skutočne však nechápeme, ako bude fungovať interakcia s AI. - alebo aké by to malo byť.
Ukazuje sa však, že už máme koncept, ktorý môžeme použiť, keď premýšľame o AI: Takto uvažujeme o zvieratách. Ako bývalý tréner zvierat (aj keď len krátko), ktorý teraz študuje, ako ľudia používajú AI, viem, že výcvik zvierat a zvierat nás môže dosť naučiť, ako by sme mali myslieť, pristupovať k umelej inteligencii a ako s ňou interagovať, teraz aj v budúcnosť.
Používanie zvieracích analógií môže pomôcť bežným ľuďom porozumieť mnohým zložitým aspektom umelej inteligencie. Môže nám tiež pomôcť premýšľať o tom, ako najlepšie naučiť tieto systémy nové zručnosti a čo je najdôležitejšie, ako môžeme správne pochopiť ich obmedzenia, aj keď oslavujeme nové možnosti AI.
Pri pohľade na obmedzenia
Ako odborník na inteligenciu inteligencie Maggie Boden vysvetľuje, „umelá inteligencia sa snaží prinútiť počítače, aby robili veci, ktoré môžu myseľ robiť.“ Vedci AI pracujú na výučbe počítačov na uvažovanie, vnímanie, plánovanie, presúvanie a vytváranie združení. AI môže vidieť vzory vo veľkých súboroch údajov, predpovedať pravdepodobnosť výskytu udalosti, plánovať trasu, spravovať plán stretnutí osoby a dokonca hrať scenáre vojnových hier.
Mnohé z týchto schopností samy o sebe nie sú prekvapujúce: Robot sa samozrejme môže pohybovať okolo vesmíru a nezrážať sa s ničím. Ale nejako sa zdá, že AI je magickejšia, keď počítač začne dávať tieto zručnosti dohromady, aby mohol vykonávať úlohy.
Vezmite si napríklad autonómne autá. Pôvod vozidla bez vodiča je v projekte agentúry Advanced Advanced Research Project Agency z roku 1980 s názvom Autonómne pozemné vozidlo. Cieľom projektu bolo podporiť výskum v oblasti počítačového videnia, vnímania, plánovania a robotického riadenia. V roku 2004 sa úsilie ALV stalo prvou veľkou výzvou pre vozidlá s vlastným riadením. Teraz, viac ako 30 rokov od začiatku tohto úsilia, sme na civilnom trhu v priepasti autonómnych automobilov alebo automobilov s vlastným riadením. V prvých rokoch si len málo ľudí myslelo, že takýto výkon je nemožný: Počítače nemohli jazdiť!
Napriek tomu, ako sme videli, môžu. Možnosti autonómnych automobilov sú pre nás relatívne ľahko pochopiteľné. Snažíme sa však pochopiť ich obmedzenia. Po smrteľnej havárii v Tesle v roku 2015, keď funkcia autopilota automobilu nezaznamenala prechod traktora s prívesom do jeho jazdného pruhu, sa zdá, že málokto ešte stále chápe závažnosť toho, aký obmedzený je Teslaov autopilot v skutočnosti. Zatiaľ čo spoločnosť a jej softvér boli zbavené nedbanlivosti zo strany Národnej správy bezpečnosti cestnej premávky, zostáva nejasné, či zákazníci skutočne chápu, čo auto môže a nemôže robiť.
Čo keby majiteľom Tesly nebolo povedané, že šoférovali „beta“ verziu autopilota, ale skôr autonómne auto s mentálnou ekvivalenciou červa? Takzvaná „inteligencia“, ktorá poskytuje „plnú schopnosť samošoférovania“, je skutočne obrovský počítač, ktorý dokáže snímať objekty a vyhnúť sa im, rozpoznáva položky v obrázkoch a obmedzuje plánovanie. To by mohlo zmeniť pohľad vlastníkov na to, koľko by auto skutočne dokázalo bez ľudského vstupu alebo dohľadu.
Čo je to?
Technológovia sa často pokúšajú vysvetliť AI z hľadiska toho, ako je postavený. Vezmite si napríklad pokrok v oblasti hlbokého vzdelávania. Toto je technika, ktorá využíva viacvrstvové siete, aby sa naučila, ako plniť úlohu. Siete musia spracovať obrovské množstvo informácií. Ale kvôli množstvu požadovaných údajov, zložitosti asociácií a algoritmov v sieťach je pre ľudí často nejasné, ako sa učia, čo robia. Tieto systémy sa môžu stať veľmi dobrými pri jednej konkrétnej úlohe, ale my im naozaj nerozumieme.
Namiesto toho, aby sme uvažovali o umelej inteligencii ako o niečo nadľudskom alebo mimozemskom, je ľahšie ich analogicky prirovnať k zvieratám, inteligentných nehumánnych ľudí, s ktorými máme výcvik.
Napríklad, keby som mal používať posilňovanie učenia trénovať psa sedieť, chválil by som psa a dať mu zaobchádza, keď sedí na velenie. Postupom času sa naučil spojiť príkaz s správaním s liečbou.
Výcvik systému AI môže byť veľmi rovnaký. V rámci hlbokého učenia sa ľudskí dizajnéri zostavili systém, predstavili si, čo sa od neho chcú učiť, poskytovali mu informácie, sledovali jeho činnosť a dávali mu spätnú väzbu (napríklad chválu), keď videli, čo chcú. V zásade môžeme liečiť AI systém, ako liečime zvieratá, ktoré trénujeme.
Analógia funguje aj na hlbšej úrovni. Neočakávam, že sediaci pes pochopí zložité pojmy ako „láska“ alebo „dobrý“. Očakávam, že sa naučí správaniu. Rovnako ako môžeme prinútiť psov, aby sedeli, zostali a prevrátili, môžeme získať systémy AI na pohyb automobilov po verejných komunikáciách. Je však príliš veľa očakávať, že auto „vyrieši“ etické problémy, ktoré môžu vzniknúť pri mimoriadnych udalostiach.
Pomáhame tiež výskumníkom
Myslenie na umelú inteligenciu ako na cvičiteľné zviera nie je užitočné len na vysvetlenie problému širokej verejnosti. Je tiež užitočná pre výskumníkov a inžinierov, ktorí túto technológiu budujú. Ak sa vedec AI pokúša naučiť systém novú zručnosť, myslenie na tento proces z pohľadu trénera zvierat by mohlo pomôcť identifikovať potenciálne problémy alebo komplikácie.
Napríklad, ak sa pokúsim trénovať psa, aby sedel a zakaždým, keď poviem „sedieť“, bzučiak do rúry zhasne, potom môj pes začne spájať sedenie nielen s mojím príkazom, ale aj so zvukom bzučiak. V podstate sa bzučiak stane ďalším signálom, ktorý hovorí psovi, aby sedel, ktorý sa nazýva „náhodné zosilnenie“. Ak hľadáme náhodné zosilnenie alebo signály v systémoch AI, ktoré nefungujú správne, potom budeme vedieť lepšie nielen to, čo sa deje nesprávne, ale aj to, čo konkrétne preškolenie bude najúčinnejšie.
To si vyžaduje, aby sme pochopili, aké správy dávame počas výcviku AI, a čo by AI mohla pozorovať v okolitom prostredí. Bzučiak rúry je jednoduchý príklad; v reálnom svete to bude oveľa komplikovanejšie.
Predtým, ako privítame našich vládcov AI a odovzdáme naše životy a pracovné miesta robotom, mali by sme sa zastaviť a premýšľať o druhu inteligencie, ktorú vytvárame. Veľmi dobre dokážu vykonávať konkrétne akcie alebo úlohy, ale nedokážu porozumieť konceptom a nič nevedia. Keď uvažujete o ostreľovaní tisícov pre nové vozidlo Tesla, nezabudnite, že jeho funkcia autopilota je skutočne veľmi rýchly a sexy červ. Naozaj chcete dať kontrolu nad svojím životom a životmi svojich blízkych červom? Pravdepodobne nie, takže majte ruky na volante a nespiňte.
Tento článok bol pôvodne publikovaný na stránke The Conversation.
Heather Roff, vedecký pracovník, Katedra politiky a medzinárodných vzťahov, Oxfordská univerzita; Výskumný pracovník, globálna bezpečnostná iniciatíva, Arizonská štátna univerzita
