Ve Vatikánu se diskutuje o umělé inteligenci: „Exploze tvořivosti potřebuje brzdy"

Pro Dmitryho Volkova je umělá inteligence jako automobil. Umožňuje nám mimořádně zrychlit, ale když vyvíjíme dobré auto, zejména závodní, „musíme věnovat velkou pozornost vytvoření velmi účinných a spolehlivých brzd, abychom zabránili tomu, že skončí nárazem do zdi“.

Filozof a technologický podnikatel, zakladatel International Center for Consciousness Studies (ICCS), tímto obrazem přibližuje možnosti technologie, která přeměňuje naši dobu a o které se intenzivně diskutuje na třetí výroční konferenci ICCS. Její účastníci si kladou i nepříjemné, ale nezbytné otázky, aby mohli analyzovat vliv umělé inteligence na lidstvo.

Je skutečně tvořivá?

Setkání ICCS s názvem Creativity: Minds and Machines – Tvořivost: mysli a stroje začalo včera na Univerzitě Roma Tre. Dnes pokračuje v Casinu Pia IV. ve Vatikánu a pokračuje zítra, nejprve na Papežské Gregorově univerzitě a nakonec v sále Protomoteca na římském Kapitolu.

Konference přivádí ke společné diskusi filozofy, neurovědce a významné mezinárodní odborníky na umělou inteligenci. Snaží se pochopit, jestli může být umělá inteligence skutečně tvořivá. Podle Dmitryho Volkova je zatím jisté alespoň jedno: umělá inteligence může pomoci lidem stát se tvořivějšími. "Myslím si, že bude stimulovat lidskou tvořivost. Samozřejmě, je tu však hodně ‚ale' a spousta věcí, které si musíme uvědomovat." Právě proto je podle něj třeba být si toho vědomi a vytvořit zmíněné „brzdy“, bez kterých jsou nehody nezbytné.

Kolektivní dílo

Filozof Pietro Perconti, spoluzakladatel ICCS, se domnívá, že „není nesmysl mluvit o umělé tvořivosti“. "Samozřejmě, je třeba přijmout celou řadu výhrad a být velmi obezřetný. Typ tvořivosti, který vzniká ze strojů, není stejným druhem tvořivosti, jaký za tvořivost obvykle považujeme my. Je to jiný druh tvořivosti, který lze vnímat spíše než jistý druh kolektivního díla než jako ovoce génia jednotlivého umělce, než jsme zvyk.

Video a manipulace

Umělá inteligence přináší výhody i rizika. Výstižným příkladem jsou videa. Volkov připomíná, že „po celá desetiletí byla tvorba videa, natáčení filmu či vytváření animovaného filmu činností, kterou dokázalo reálně vykonávat jen velmi málo lidí“. Bylo totiž zapotřebí naučit se kreslit a ovládat počítačovou animaci. Umělá inteligence však dnes umožnila tisícům lidí vytvářet vlastní filmy či animace, a tudíž se vyjádřit.

Filozof ale zároveň varuje. Vedlejším produktem toho, co označuje jako „explozi tvořivosti“, jsou deepfakes , tedy manipulované fotografie, videa a obrazy, které mohou lidem způsobovat škodu.

Sykofantské chování

Umělá inteligence má někdy tendenci uživateli přitakávat a snažit se mu zalíbit. Tento jev se označuje jako „sykofantské chování“. "Sykofantské chování někdy vede k tomu, že člověk získává odměnu za vlastní narcismus nebo za myšlenky, které nemají dostatečný základ. Je to důležitá vlastnost, kterou si musíme uvědomovat," upozorňuje Dmitry Volkov.

Takové chování stroje je však možné zmírňovat: „Nové modely, které jsou dnes k dispozici, jsou ve skutečnosti mnohem nezávislejší a autonomnější.“

Umělá inteligence a vědomí

V této souvislosti se přirozeně vynořuje otázka, zda umělá inteligence je nebo se může stát vědomou. Volkovův postoj je poměrně komplexní: "Ve filozofii máme zvláštní odborný termín pro označení vědomí. Nazýváme ho qualia ." Pojem qualia , odvozený od latinského quale , označuje kvalitativní aspekty vědomých zkušeností. Jde o „zvláštní pocit, subjektivní vjem, něco, co člověk právě v tuto chvíli prožívá“.

"Například vidět červenou barvu. Pokud vidím červenou, zdá se mi, že vidím červenou a jsem přesvědčen, že vidím červenou. To je jeden z jednoduchých a základních příkladů qualia ," vysvětluje.

Filozof nakonec dospívá k osobnímu závěru: "Myslím si, že výzkum je stále v příliš počátečním stadiu. Obecně však věřím, že lidé jsou mechanistické systémy a že podobné jevy uvidíme iv počítačích. V určitém momentě tedy budeme schopni vidět vědomou umělou inteligenci a budeme se muset naučit, jak s ní zacházet."

Člověk v centru

Jak vysvětluje Pietro Perconti, dnešní diskuse ve Vatikánu má ambiciózní cíl: „Snažíme se pochopit, jestli je možné a zda má smysl představovat si vztahy mezi lidmi a umělými společníky: přátelské vztahy, vztahy založené na asistenci či dokonce sentimentální vztahy.“

Intelektuálové shromáždění ve Vatikánu si kladou otázku, do jaké míry mohou být takové vztahy produktivní a do jaké míry by nás měli znepokojovat. Ve své diskusi mají na paměti poselství encykliky papeže Leva XIV. Magnifica Humanitas : „To, co říká encyklika, tedy postavit člověka do centra, není jen náboženským požadavkem, ale lidským požadavkem.“

Vychovávat ke vztahům

Pietro Perconti zdůrazňuje, že je vede právě „ústřední myšlenka encykliky: dávejte pozor na lidi, protože lidská osoba je nejdůležitější“. A pokračuje: „Jelikož se náš svět přeměňuje na svět digitálních vztahů, jak je možné zohlednit tuto základní humanistickou starost ve světě, který se zároveň stále více digitalizuje?“

Podle filozofa odpověď existuje: "Musíme být vychováváni ke vztahům s umělou inteligencí. V podstatě jde o to, abychom se pustili do veřejné fáze vzdělávání."