Šach mat pro lidstvo: Robot sám sebe za 4 hodiny naučil hrát šachy a porazil šachového velmistra tahy, které dosud nikdo nepoužil. Důsledky jsou děsivé

  • Robot se za pouhé 4 hodiny sám naučil hrát šachy. Používal tahy, které dosud nikdo nepoužil.
  • Akademik z Oxfordu: Umělá inteligence by se mohla snadno zvrhnout a stát se pro inženýry příliš tvrdým oříškem.
  • AlphaZero překonal roky lidských znalostí pouze za pár hodin hraní šachů.

Přinesou roboti jednoho dne lidstvu zkázu? To je závažná otázka, která stále více znepokojuje mnohé z řad našich nejlepších vědců a podnikatelů v oblasti technologií.

Vývoj umělé inteligence (AI) – stroje naprogramované na provádění úkolů, které obvykle vyžadují lidskou inteligenci – brzy umožní, aby nastaly dramatické změny jak na našich pracovištích, tak i ve volném čase.

V letošním roce přední představitel Oxfordské univerzity Michael Wooldridge varoval poslance, že AI by se mohla „zvrhnout“ a že stroje se brzy mohly stát tak složitými, že inženýři, kteří je vytvářejí, už jim nebudou schopni porozumět, ani nebudou moci předvídat, jak fungují.

AlphaZero taught itself chess in just four hours and thrashed a grandmaster using moves never seen before in the game's 1,500 year history

 Robot AlphaZero se sám naučil hrát šachy za pouhé čtyři hodiny a velmistra porazil tahy, které ještě nikdo, za posledních 1500 let dlouhou historii hraní šachů, neviděl.

Ano, je to znepokojující, avšak „historicky“ nový vývoj činí z nepředvídatelných rozhodnutí strojů s AI tím posledním, s čím si dělat starosti. A všechno to začalo jednou šachovou partií.

AlphaZero, počítačový program s umělou inteligencí, se tento měsíc osvědčil jako nejlepší světový šachový šampion, který se v šachovém maratonu střetl s předchozím držitelem titulu, dalším AI systémem zvaným Stockfish 8.

Pouze tento fakt asi nikoho, kdo není tak trochu nerd, šachový nadšenec nebo počítačový geek, příliš nevzruší.

Co však činí inteligenci AlphaZero děsivou je to, že se šachy naučil sám za pouhé 4 hodiny. To jediné, co měl k dispozici, byla pravidla této hry a instrukce k tomu, aby se naučil jak vyhrát pomocí hry „sám proti sobě“.

Tímto způsobem asimiloval stovky let šachových poznatků a taktik. Následně však začal překonávat všechny dosud známé lidské vědomosti o této tradiční hře.

Garry Kasparov, šachový velmistr, který byl v roce 1997 poražen superpočítačem Deep Blue, kterému byly naprogramovány ty nejlepší tahy, řekl: „Schopnost strojů překonat staletí lidských znalostí…je převratný nástroj, který změní svět.“

 Anglický šachový velmistr Simon Williams vtipkoval: „AlphaZero 6. prosince 2017 převzal žezlo šachového světa. Konečně vyřešil tu hru a definitivně tak zotročil lidskou rasu jako domácí mazlíčky.“
S širších důsledků skutečně mrazí, vysvětlím proč.

AlphaZero se zrodil v Londýně, je dědictvím britské společnosti zvané DeepMind, která vyvíjí počítačové programy, které se dokáží učit. V roce 2014 byl odkoupen společností Google za 400 milionů liber.

Tento komplexní druh programování, který představuje AlphaZero, lze jednoduše popsat jako algorytmus – soubor matematických instrukcí či pravidel, které dokáží řešit problémy a nalézat na ně odpovědi.

Čím více dat umělá inteligence, jako je AlphaZero, zpracovává, tím více se toho učí – přeprogramuje se s ohledem na nově nabyté vědomosti.

Díky tomu se jeho schopnost řešení problémů stává stále silnější a silnější, násobí svoji inteligenci takovou rychlostí a na takové úrovně, které jsou daleko za možnostmi lidského mozku. V důsledku toho AI není omezena hranicemi lidského myšlení, což ostatně dokázal i zmiňovaný úspěch v šachové partii.

Skutečný účel takového druhu umělé inteligence však daleko přesahuje hraní stolních her proti jiným krabicím z křemíkových čipů. Již začíná rozhodovat o životě či smrti ve světě špičkových technologií diagnostiky rakoviny.

Garry Kasparov the grandmaster who was famously defeated by IBM’s supercomputer Deep Blue in 1997 when it was pre-programmed with the best moves, said: ‘The ability of a machine to surpass centuries of human knowledge . . . is a world-changing tool.’
 Garry Kasparov, šachový velmistr, který byl v roce 1997 poražen superpočítačem Deep Blue, kterému byly naprogramovány ty nejlepší tahy, řekl: „Schopnost strojů překonat staletí lidských znalostí…je převratný nástroj, který změní svět.“

Tento systém s AI je testován v nemocnicích NHS v Londýně, včetně nemocnice University College London Hospital v Londýně (UCLH) a Moorfields Eye Hospital.

V UCLH je vyvíjen systém, v němž by umělá inteligence, vyvinutá společností DeepMind, analyzovala skenová vyšetření pacientů s nádory hlavy a krku. Toto onemocnění postihuje ročně ve Velké Británii více než 11 000 lidí.

Odborníci společnosti Google se domnívají, že by se AI měla naučit číst tyto scany rychleji a přesněji než kterýkoli člověk, díky tomu bude možné zaměřit ozařování mnohem přesněji a pouze na nádory. Zároveň tak bude minimalizováno poškození zdravých tkání mozku a krku. To, co v současné době trvá lékaři a radiologům čtyři hodiny, může AI učinit za méně než hodinu.

V Moorfields bude umělá inteligence od DeepMind analyzovat asi 3 000 očních skenů, které se každý týden provádějí. V současné době může interpretovat výsledky pouze hrstka odborníků, což může mít za následek zpoždění léčby. Předpokládá se, že AI bude schopna identifikovat problémy na skenech rychleji.

Zdánlivě to vypadá jako výhra jak pro pacienty, tak i pro NHS. Ale existují velké problémy. Prvním z nich je ochrana osobních údajů – pokus londýnské nemocnice zahrnuje předání skenů více než milionu pacientů NHS společnosti Google.

To zapnulo alarm všem aktivistům bojujícím za ochranu soukromí a akademikům. Dr. Julia Powlesová, která pracuje na  Ústavu práva a technologií na univerzitě v Cambridge, říká: „Společnost Google získává volný přístup do NHS,  na základě neprokázaných slibů efektivity a inovací“.

Doktor Powles dodává: „Nevíme – a není v našich silách to zjistit – co Google a DeepMind skutečně s údaji od pacientů NHS dělají.“

Společnost Google se pokoušela vyřešit kritiku svého projektu prohlášením, že veškerý přístup k datům bude podléhat kontrole ze strany NHS, ale jedná se o organizaci, která se již dlouho potýká s obviněním ze zneužívání dat veřejnosti pro obchodní účely.

Ve Spojeném království čelí Google soudní žalobě kvůli tomu, že protiprávně získal datao 5,4 milionech uživatelích Spojeného království tím, že obcházel nastavení ochrany osobních údajů na iPhonech. Skupina zvaná Google You Owe Us tvrdí, že Google umístil do telefonů uživatelů „cookies“ (ty se využívají pro shromažďování informací ze zařízení pro poskytování reklam na míru) bez jejich vědomí či svolení.

Google na to zareagoval takto: „To není žádná novinka. Nevěříme, že to má jakýkoli dopad a za tím si budeme stát.“

Zapojení superinteligentního algoritmu AI do rozhodovacích procesů NHS přitom přináší nekonečné množství znepokojujících otázek .

Je veřejným tajemstvím, že NHS skutečně poskytuje přístup k péči prostřednictvím čekacích seznamů, počtu postelí a omezení dostupnosti léků a léčby – protože nikdy nebude mít dostatek finančních prostředků, aby každému poskytla potřebnou službu.

Drsná skutečnost spočívá v tom, že někteří lidé, kteří léčbu potřebují a zaslouží si ji, ji zkrátka nedostanou


Drsnější alternativou je být chladně racionální v rozhodování, komu bude a komu nebude léčba poskytnuta. Z hlediska nákladu by bylo nejefektivnější vyhlazovat nevyléčitelně nemocné nebo dokonce chronicky nemocné pacienty, nebo nemocné děti. Ušetřené prostředky by byly lépe vynaloženy léčbu pacientů, kterým by se mohlo navrátit plné zdraví – a znovu tak mohli žít produktivní a daňově výdělečné životy.

To je samozřejmě přístup, který je pro civilizované společnosti ne zcela příznivý. Ale rozhodovací procesy AI, jako je AlphaZero, nepoužívají soucitnou lidskou logiku, protože ta pouze stojí v cestě. (Označení „Zero“ v názvu programu znamená, že nepotřebuje žádný lidský vstup.)

Stejný druh počítačové mysli, která dokáže vykouzlit nové šachové tahy, může snadno rozhodnout, že nejúčinnějším způsobem, jak zefektivnit systém zdravotnictví, je zbavit se zranitelných a potřebných.

Jak udržet kontrolu nad učenlivými stroji, které budou brzy zapojeny do všech oblastí našeho života? Je to výzva, která se může ukázat jako nepřekonatelná. Již špičkoví odborníci v oblasti informačních technologií varují, že algoritmy hlubokého učení se mohou snadno vymknout kontrole, protože nikdy nevíme, co sami sebe naučí.

Programy mohou vyvíjet zjevně znepokojivé myšlenky. Systém, vyvinutý v Americe pro probační služby, který předpovídá riziko opakování trestných činů v souvislosti s hledáním žádosti o nedovolené zacházení, byl nedávno zjištěn, že se rychle stal nespravedlivě rasově předpojatým.

Programy mohou rozvíjet výrazně znepokojivé myšlenky. O systému, který byl vyvinut v Americe pro probační služby a který předpovídá riziko opakování trestných činů u recidivistů, bylo nedávno zjištěno, že se poměrně rychle stal nespravedlivě rasově předpojatým.

DeepMind jistě uznává potenciál těchto problémů. V říjnu dala dohromady výzkumný tým, aby vyšetřil etiku rozhodování o AI. Tým má v současné době osm zaměstnanců pracujících na plný úvazek, do roka jich však má být kolem 25.

Ale jeden si pomyslí…stačí 25 lidských myslí k tomu, aby převzaly kontrolu nad super-inteligentními, neustále se učícími a strategicky postupujícími silami monstrózně rozvinuté umělé inteligence?

Při budování stroje, který může přinést revoluci ve zdravotnictví, jsme vytvořili systém, který nás může zničit. Je to nepochybně zázrak lidské vynalézavosti. Ale musíme nějak zajistit, abychom mohli těžit z inteligence strojů a zároveň zůstali jejich pány – v opačném případě, to pro lidstvo může znamenat vážnou hrozbu.


 
Překlad: raja, Zdroj: 1

Mohlo by se vám líbit...

6 komentářů

  1. vili napsal:

    Ta inteligence na planetě zemi už dávno je. Jsou to Animusáci a Androidi. Však o tom tm psal. Jsou nejineligentnější roboti ve vesmíru. A také nejnebezpečnější ze všech. Aspoň vidíme kam inteligence vede.
    tm

  2. Kudrna napsal:

    Blbost ! Je jasné , že člověk nestačí ani na kalkulačku , nespočítá nic tak rychle jako obyčejná kalkulačka . Dělat z toho strašáka je vrchol debility , ne-li něco horšího !!! Ovšem s tou inteligencí je to jinak . Nejprve si ale člověk musí zjistit co je to skutečná inteligence , jak se získává , proč vůbec vznikla atd .

    Umělá inteligence , „terminus technikus“ , nemá vůbec nic do činění se skutečnou inteligencí .

  3. misa napsal:

    K tomu mě napadá vtip: Víte, jak nejrychleji vyzkratovat super moderního robota? „Křemíkové nebe neexistuje, ne, je to jen výmysl lidí, aby se stroje nezbláznili“ …………….BUCH. (ze sitkomu Červený trpaslík)

    Dále zde vidím velkou podnikatelskou příležitost – vyrábění speciálních zbraní proti zblázněným robotům.

    Tak mě ještě napadá, když androidi jsou tak chytří, proč vyrábí takto chytré roboty a nedělají tu práci dávno za ně ?

    Androidi zde nechtějí pracovat ? Takže jen lidem ukázali, jak robota vyrobit, jsou zde na „dovolené“ a jen sledují, jak se v tom plácáme?

    • .lak napsal:

      Jsou to normovači na vylágrovaný soustruh který neudrží milimetr ale člověka donutí dělat na setiny, jak prosté watsone. Jenom obšlehli podnikatele.

  4. julius napsal:

    Ja jsem v klidu. Porovnavaji co se neda porovnat. je to jen hromada tranzistoru co ma vyhodu rychlosti a kombinaci zavysejici na danem programu. To ze se sam ucil neni nic jineho nez velice rychla kombinace retezce programu. A kdyz by tuto rychlost nekdo snizil na rychlost mozku u cloveka trval by jeden tah robota dele jak 5 let. Mozek cloveka neni rychlosti stejny k polotovaru elektronickemu mozku ale je rychlosti vetsi protoze musi narozdil od robota kontrolovat cely vas organismus a to non stop. Proto jeho cas nemuze plne venovat vymysleni tahu pescem. To by se pak vas organismus v dobe toho tahu uplne zastavil. Nehlede na to ze muzete naprogramovat robota dokonc evyrabet sama sameho a muzete mu dat i nejake opravne a vylepsujici funkce. Ale priznejme si vzdyt ten elektronickej system neumi ani nahodne cislo. Je to vytvoreno jen na primitivni forme ruzoveho sumu a tim to cele konci. Kdyz pisnete jednoduchy programek nahodnych cisel zjistite ze se nakonec system dostane do kolecka cisel stejnych a nikoliv nahodnych. Pro me to nejsou roboti ani myslici masiny. Jsou to jen a jen automaty s programem. Proto ta nadsazka myslici roboti je uplnej nesmysl.

Napsat komentář

Vaše emailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *

five × five =

Pin It on Pinterest

Share This

Sdílet

Líbil se vám tento článek? Sdílejte jej se svými přáteli!