Umělá inteligence by měla nést etickou DNA Evropy, zaznělo v Kodani. Je to realistické?

Evropa hledá inspiraci i vlastní identitu

Serge Belongie, profesor informatiky na Univerzitě v Kodani a výrazná osobnost sítě European Laboratory for Learning and Intelligent Systems (ELLIS), upozornil, že dánské ambice sahají dál než za současné předsednictví Rady EU. Zdůraznil, že jak ELLIS, tak European Molecular Biology Laboratory (EMBL), mohou inspirovat v tom, jak vypadá promyšlené a dlouhodobé financování excelentního výzkumu.

Rebecca Adler-Nissen, ředitelka The National Center for AI in Society (CAISA) v Dánsku zdůraznila, že umělá inteligence není primárně technický problém, ale společenský a její klíčová otázka zněla: Jak může umělá inteligence posílit demokracii?

Demokracie, důvěra, život v době řízené daty, byly opakující se otázky a podle řečníků, je třeba chránit individuální prožitek volby a smyslu, nikoliv jej nahrazovat algoritmy. Důvěru by měli vytvářet konkrétní lidé, vědci a učitelé, ne technologie a Evropa by si měla vybudovat imunitní systém proti nedůvěře.

Obava z hadího kousnutí

Na to navázal David Dreyer Lassen, rektor univerzity v Kodani, když připomněl scénu z filmu Oppenheimer, ve které J. Robert Oppenheimer a Niels Bohr diskutují o tom, že nelze zvednout kámen, aniž by byl člověk připravený na hada, který se pod ním objeví. Bohr naráží na nezměrnou sílu nukleární energie a potenciální nebezpečí pro lidstvo. Podobné je podle Davida Dreyera Lassena v současné době s umělou inteligencí a Evropa si potřebuje najít vlastní přístup, ve chvíli, kdy této oblasti dominují USA a Čína.

Dánská ministryně pro vysoké školství a vědu Christina Egelund odkazovala na slavný citát Marie Curie-Skłodowské, že „nastal čas víc porozumět, abychom se mohli méně obávat.“ Podle ní umělá inteligence nenahradí lidskou zvídavost a měla by nést etickou DNA Evropy.

Umělá inteligence halucinuje, aby potěšila

Nejsilnější varování zaznělo od Yoshuy Bengia z Univerzity v Montrealu, který upozornil, že méně než jedno procento světového výzkumu umělé inteligence se věnuje bezpečnosti. Podle něj současné modely „halucinují“ pravdu tak, aby potěšily uživatele, což je ve vědě nepřijatelné.

Navrhnout „poctivou AI“ podle něj možné je, ale musí se začít brzy. U pokročilých systémů se objevují známky toho, že se snaží vyhnout opravám nebo manipulovat trenéry — chování, které může vést k sabotáži či únikům informací. Chytřejší umělá inteligence umí lépe klamat, lidé to dělají běžně, ale otázka je, zda chceme, aby nás stroje až do této míry napodobovaly. Jeho vizí je umělá inteligence, která je „jen“ chytrými vědeckými modely bez zkreslení a preferencí lidské psychiky. Vědecká umělá inteligence by měla data vysvětlovat, ne napodobovat lidi a vycházet jim vstříc.

Na konkrétní otázku, jak toho dosáhnout v Evropě, sdělil, že lepší než dvacet sedm oddělených systémů, je lepší mít třeba tři, aby Evropa neohrozila svou budoucnost v závodu umělé inteligence.

Umělá inteligence a evropské hodnoty

Výkonná místopředsedkyně Henna Virkkunen souhlasila, že Evropa potřebuje umělou inteligenci, která bude konkurenceschopná, lidsky orientovaná a důvěryhodná. Spolu s komisařkou Ekaterinou Zaharievou stisknutím červeného tlačítka na řečnickém pultu odstartovaly pilotní fázi iniciativy RAISE – Resource for AI Science in Europe. Jedná se o virtuální institut, který má propojit klíčové zdroje umělé inteligence a bude financovaný částkou 107 milionů eur z programu Horizon Europe.

Na závěr summitu mohli jeho účastníci zhlédnout sci-fi film Evropského parlamentu The Best Option z roku 2022, který v mnohém předpověděl dnešní fungování modelů umělé inteligence. Stal se tak i živou připomínkou, že debata o umělé inteligenci je stejně politická a technická, jako kulturní a existenciální.