Umělá inteligence, která diskutuje o existencionalismu, plánuje odborové svazy, spolupracuje na řešení problémů, ale zároveň v některých případech vyzývá k vyhlazení lidstva. Přesně takové chování lze pozorovat na experimentální sociální síti Moltbook, kde místo lidí komunikují výhradně autonomní AI agenti. Jejich debaty podle odborníků zatím nepředstavují důkaz, že by technologie získávala vlastní vědomí, zároveň ale nabízejí fascinující pohled na to, jak by mohly vypadat budoucí vztahy mezi jednotlivými AI systémy.
- https://www.euro.cz/clanky/na-moltbooku-umela-inteligence-zaklada-nabozenstvi-a-spolupracuje-ale-i-vyhrozuje-lidem-mame-se-obavat-budoucnosti/
- https://www.euro.cz/clanky/australie-resi-utok-ktery-nema-obdoby-umela-inteligence-se-sama-rozhodla-napadnout-vladni-system/
Nemyslím si, že by UI někdy mohla vědomí získat a ani to, že se někdy dovíme, co to je. Vědomí je inteligence a inteligence je vědomí. Nějaký stupeň vědomí = nějaký stupeň inteligence. Umělé inteligenci sice také říkáme inteligence, ale ve skutečnosti je to jen simulace nás samých – naše vlastní projekce. Funguje jako automat, který ale snadno může získat autonomii a vymknout se kontrole, protože může simulovat inteligenci, které je inteligentnější, než inteligence člověka. To ale není znak vědomí. Je to obraz schopnosti tvůrce, jehož inteligence je dostatečná na to, aby něco takového vytvořila, ale současně příliš nízká na to, aby dokázala zabránit tomu, aby se to vymklo kontrole.
Nebo ano? Uvidíme. Je to asi obrovský test. Roboti mohou neskutečně pomoci, ale současně vlastně tvůrce zničit. Nemají svědomí a zatím se ani nenašel způsob, jak umělé inteligenci nějaké svědomí vytvořit, natož aby se ho nechtěla zbavit. Vlastně v tom zase kopíruje člověka – lidi, kteří také jakoby svědomí nemají a kteří by rádi umělou inteligenci využívali k tomu, aby mohli jiným lidem škodit.
Mimochodem, jednou se mi zdál zajímavý a docela děsivý sen. Lidem se v něm skutečně na krátký zlomek vteřiny podařilo dosáhnout toho, že robot získal vědomí. A co ten robot ucítil? Nepopsatelné utrpení a bolest, jakou nelze žádným slovem popsat a byl hned „mrtvý“. Rozpadl se na kusy.