Vatikanstadt (KNA) Papst Leo XIV. bricht eine Lanze für Qualitätsjournalismus und Bildung zum Schutz gegen die vermeintlich allwissende Künstliche Intelligenz (KI). "Systeme, die statistische Wahrscheinlichkeiten als Wissen ausgeben, bieten uns in Wirklichkeit bestenfalls Annäherungen an die ...
Vatikanstadt (KNA) Papst Leo XIV. bricht eine Lanze für Qualitätsjournalismus und Bildung zum Schutz gegen die vermeintlich allwissende Künstliche Intelligenz (KI). "Systeme, die statistische Wahrscheinlichkeiten als Wissen ausgeben, bieten uns in Wirklichkeit bestenfalls Annäherungen an die Wahrheit, die mitunter regelrechte 'Halluzinationen' sind", schreibt Leo in seiner am Samstag veröffentlichten Botschaft zum Tag der sozialen Kommunikationsmittel.
Medien- und Kommunikationsunternehmen dürften nicht zulassen, dass Algorithmen, die um jeden Preis um ein paar Sekunden mehr Aufmerksamkeit kämpften, journalistische Werte wie die Suche nach Wahrheit verdrängten, so der Papst.
Als Probleme nennt er eine fehlende Überprüfung von Quellen und Informationen auch durch die Krise des Journalismus vor Ort. All dies schaffe einen Nährboden für Desinformation und "ein wachsendes Gefühl von Misstrauen, Orientierungslosigkeit und Unsicherheit".
Weiter fordert Leo XIV., von KI erzeugte oder manipulierte Inhalte müssten klar gekennzeichnet und deutlich von menschengemachten Inhalten unterschieden werden. Die Arbeit von Journalisten, Autoren und anderen Kreativen sei urheberrechtlich zu schützen.
In dem Text mit dem Titel "Custodire voci e volti umani" (Gesichter und Stimmen des Menschen schützen) verweist Leo auf Chatbots und ständig wachsende Möglichkeiten der KI, Stimmen, Gesichter, Gestik und Mimik nachzuahmen und sogar menschliche Emotionen vorzutäuschen. Heute brauche es eine "digitale Alphabetisierung", um zu verstehen, "wie Algorithmen unsere Wahrnehmung der Realität prägen, wie KI-Verzerrungen funktionieren, welche Mechanismen das Erscheinen bestimmter Inhalte in unseren Informationsfeeds bestimmen und welche Annahmen und Wirtschaftsmodelle der KI-Ökonomie zugrunde liegen und wie sie sich verändern können", resümiert Leo XIV.
Nur so sei zu verhindern, dass KI für schädliche Inhalte und Verhaltensweisen wie digitalen Betrug, Cybermobbing und Deepfakes missbraucht werde, die die Privatsphäre und Intimität der Menschen ohne deren Zustimmung verletzen.
Weiter mahnt der Papst, in den vergangenen Jahren hätten KI-Systeme zunehmend die Produktion von Texten, Musik und Videos übernommen. "Ein Großteil der menschlichen Kreativwirtschaft läuft daher Gefahr, abgebaut und durch das Label "von KI gesteuert" ersetzt zu werden, wodurch Menschen zu bloßen passiven Konsumenten unreflektierter Gedanken, anonymer, unautorisierter und ungeliebter Produkte werden", so das Kirchenoberhaupt.
Den kreativen Prozess aufzugeben und die eigenen geistigen Fähigkeiten und die Vorstellungskraft Maschinen zu überlassen, bedeute, die Talente zu begraben, die den Menschen gegeben seien, um in Beziehung zu Gott und den Mitmenschen zu wachsen. "Es bedeutet, unser Gesicht zu verbergen und unsere Stimme zum Schweigen zu bringen", kritisiert Leo XIV.