7.12.2025

AI podporuje důstojnost lidské osoby,
pokud je používána jako pomůcka
pro pochopení složitých skutečností
nebo jako vodítko ke spolehlivým zdrojům
při hledání pravdy.

Obsahy, které vypadají reálně, ale nejsou pravdivé

Nicméně existuje také vážné riziko, že AI bude vytvářet zmanipulované obsahy a nepravdivé informace, které mohou snadno uvést v omyl tím, že je velmi těžké je odlišit od reálných dat. K tomu může docházet náhodně, jako v případě „halucinací“ AI, kdy generativní systém AI vytvoří obsahy, které vypadají, že odráží realitu, ale nejsou pravdivé. Vzhledem k tomu, že jedním z hlavních prvků funkčnosti AI je generování informací, které napodobují informace produkované lidmi, je udržení podobných rizik pod kontrolou velmi náročné. Důsledky takových odchylek a nepravdivých informací mohou být velmi závažné.

Manipulace a deepfake způsobují vážné škody

Jestliže na jedné straně má AI skrytý potenciál generovat fiktivní obsahy, je tu na druhé straně ještě obávanější problém, spočívající v úmyslném použití AI za účelem manipulace. K tomu může dojít například tehdy, když jednotlivec nebo organizace záměrně vytvoří a šíří informace v podobě obrázků, video- a audio-deepfakes s cílem oklamat nebo uškodit. Deepfake je falešné zobrazení osoby, která byla upravena nebo vytvořena algoritmem AI. Nebezpečí, které deepfakes představují, je obzvláště zřejmé, pokud jsou použity k tomu, aby někoho napadly nebo mu ublížily. Ačkoli obrázky nebo videa mohou být samy o sobě umělé, škody, které způsobují, jsou skutečné a zanechávají „hluboké jizvy v srdci oběti“, která se tak cítí „zraněna ve své lidské důstojnosti“.

Šíření rozdělení, rozbrojů a konfliktů

Obecněji řečeno, tím, že falšované audiovizuální výstupy generované AI zkreslují „vztah k druhým a ke skutečnosti“, mohou postupně podkopávat základy společnosti. To vyžaduje pečlivou regulaci, neboť dezinformace, zejména prostřednictvím médií řízených nebo ovlivňovaných AI, se mohou šířit neúmyslně a živit politickou polarizaci a sociální nespokojenost. Když se totiž společnost stane lhostejnou k pravdě, různé skupiny si vytvářejí vlastní verze „faktů“, což oslabuje „vzájemné vztahy a závislosti“, které jsou základem společenského soužití. Následkem deepfakes lidé o všem pochybují a falešný obsah generovaný AI podkopává důvěru v to, co vidí a slyší. Polarizace a konflikty tím mohou jen narůstat. Takto rozšířené klamání není druhořadý problém: zasahuje jádro lidskosti a ničí základní důvěru, na níž jsou společnosti postaveny.

Pečlivé rozlišování v online prostoru

Bojovat proti lžím vytvářeným pomocí AI není jen úkolem odborníků v této oblasti, ale vyžaduje úsilí všech lidí dobré vůle. „Má-li technologie sloužit lidské důstojnosti, a nikoli ji poškozovat, a má-li podporovat mír namísto násilí, musí lidské společenství aktivně přistupovat k těmto trendům s respektem k lidské důstojnosti a podporovat dobro.“ Ti, kdo vytvářejí a sdílejí obsah vytvořený AI, by měli vždy dbát na ověření pravdivosti toho, co šíří. V každém případě by se měli „vyvarovat sdílení slov a obrazů, které jsou ponižující pro lidské bytosti, a vyloučit tedy to, co podněcuje nenávist a nesnášenlivost, znevažuje krásu a intimitu lidské sexuality a zneužívá slabé a bezbranné“. To vyžaduje neustálou obezřetnost a pečlivé rozlišování ze strany všech uživatelů ohledně svých aktivit v online prostoru.

 Z vatikánského dokumentu „Antiqua et nova“  o vztahu mezi umělou a lidskou inteligencí. Redakčně upraveno.

Autor: Webredaktor kna   |   Sekce: čtenářský koutek   |   Tisk   |   Poslat článek známému

• čtenářský koutek
• mešní vína
• hledáte knihu?
• Novinky KNA