Menschliche Stimmen und Gesichter bewahren<\/b><\/p>\n
Liebe Br\u00fcder und Schwestern!<\/i><\/p>\n
Das Gesicht und die Stimme sind einzigartige, unverwechselbare Merkmale jedes Menschen; sie zeigen die eigene einmalige Identit\u00e4t und sind wesentlich f\u00fcr die Begegnung mit anderen Menschen. Das wussten schon die Alten. So verwendeten die alten Griechen zur Benennung der menschlichen Person das Wort \u201eGesicht\u201c (pr\u00f3s\u014dpon<\/i>), das etymologisch das bezeichnet, was dem Blick begegnet, den Ort der Gegenwart und der Beziehung. Der lateinische Begriff\u00a0persona<\/i>\u00a0(von\u00a0per-sonare<\/i>) beinhaltet hingegen den Klang: nicht irgendeinen Klang, sondern die unverwechselbare Stimme eines Menschen. Nicht auf eigenes Denken verzichten<\/i><\/strong> Sein oder Schein: Simulation der Beziehungen und der Wirklichkeit<\/i><\/strong> Hinter dieser enormen unsichtbaren Macht, die uns alle beeinflusst, stehen nur eine Handvoll Unternehmen, deren Gr\u00fcnder k\u00fcrzlich als Sch\u00f6pfer der \u201ePerson des Jahres 2025\u201c vorgestellt wurden, d.h. als Architekten der k\u00fcnstlichen Intelligenz. Dies gibt Anlass zu erheblichen Bedenken hinsichtlich der oligopolistischen Kontrolle algorithmischer Systeme und k\u00fcnstlicher Intelligenz, die in der Lage sind, das Verhalten subtil zu beeinflussen und sogar die Geschichte der Menschheit \u2013 einschlie\u00dflich der Geschichte der Kirche \u2013 neu zu schreiben, oft ohne dass wir uns dessen wirklich bewusst sind. Aus dem Vatikan, am 24. Januar 2026, dem Gedenktag des heiligen Franz von Sales.
\nAngesicht und Stimme sind heilig. Sie wurden uns von Gott geschenkt, der uns nach seinem Bild und Gleichnis geschaffen und uns mit dem Wort, das er selbst an uns gerichtet hat, ins Leben gerufen hat, dem Wort, das \u00fcber hunderte von Jahren zun\u00e4chst in den Stimmen der Propheten widerhallte und in der F\u00fclle der Zeit Fleisch geworden ist. Dieses Wort \u2013 diese Selbstmitteilung Gottes \u2013 haben wir direkt h\u00f6ren und sehen k\u00f6nnen (vgl. 1 Joh<\/i>\u00a01,1-3), weil es sich in der Stimme und im Antlitz Jesu zu erkennen gegeben hat.
\nGott wollte den Menschen seit seiner Erschaffung als sein Gegen\u00fcber und hat \u00a0\u2013 wie Gregor von Nyssa sagt<\/a>[1] \u2013 \u00a0seinem Gesicht einen Abglanz der g\u00f6ttlichen Liebe eingepr\u00e4gt, damit er sein Menschsein durch die Liebe voll und ganz leben kann. Die menschlichen Gesichter und Stimmen zu bewahren bedeutet daher, dieses Siegel, diesen unausl\u00f6schlichen Abglanz der Liebe Gottes, zu bewahren. Wir sind keine Spezies, die aus vorab definierten biochemischen Algorithmen besteht: Jeder von uns hat eine unersetzliche und unnachahmliche Berufung, die im Laufe seines Lebens zutage tritt und gerade in der Kommunikation mit anderen zum Ausdruck kommt.
\nWenn wir in unserer Wachsamkeit nachlassen, l\u00e4uft die digitale Technologie jedoch Gefahr, einige Grundpfeiler der menschlichen Zivilisation, die wir bisweilen f\u00fcr selbstverst\u00e4ndlich halten, radikal zu ver\u00e4ndern. Durch die Simulation menschlicher Stimmen und Gesichter, von Weisheit und Wissen, Bewusstsein und Verantwortung, Empathie und Freundschaft greifen die als k\u00fcnstliche Intelligenz bekannten Systeme nicht nur in Informations\u00f6kosysteme ein, sondern dringen auch in die tiefste Ebene der Kommunikation ein, n\u00e4mlich die der menschlichen Beziehungen.
\nDie Herausforderung, die sich hier stellt, ist also nicht technologischer, sondern anthropologischer Natur. Die Gesichter und Stimmen zu bewahren bedeutet letztlich, uns selbst zu bewahren. Die Chancen, die digitale Technologien und k\u00fcnstliche Intelligenz bieten, mit Mut, Entschlossenheit und Urteilsverm\u00f6gen anzunehmen, bedeutet nicht, dass wir unsere Augen vor kritischen Punkten, Unklarheiten und Risiken verschlie\u00dfen.<\/p>\n
\nEs gibt seit langem zahlreiche Belege daf\u00fcr, dass Algorithmen, die darauf ausgelegt sind, die Interaktion in sozialen Medien zu maximieren \u2013 was f\u00fcr die Plattformen profitabel ist \u2013, schnelle Emotionen belohnen und zeitaufw\u00e4ndigere menschliche Reaktionen, wie beispielsweise die Suche nach Verst\u00e4ndnis und das Nachdenken, benachteiligen. Indem sie Gruppen von Menschen in Blasen schneller Zustimmung und schneller Emp\u00f6rung einordnen, verringern diese Algorithmen unsere F\u00e4higkeit, zuzuh\u00f6ren und kritisch zu denken, und verst\u00e4rken die soziale Polarisierung.
\nHinzu kommt dann ein naives und unkritisches Vertrauen in die K\u00fcnstliche Intelligenz, die als allwissende \u201eFreundin\u201d, als Quelle aller Informationen, als Archiv aller Erinnerungen, als \u201eOrakel\u201d f\u00fcr jeden Ratschlag angesehen wird. Das alles kann noch weiter dazu beitragen, dass unsere F\u00e4higkeit nachl\u00e4sst, analytisch und kreativ zu denken, Bedeutungen zu verstehen und zwischen Syntax und Semantik zu unterscheiden.
\nObwohl die KI Unterst\u00fctzung und Hilfe bei der Bew\u00e4ltigung kommunikativer Aufgaben bieten kann, birgt die Vermeidung eigenst\u00e4ndigen Denkens und die Zufriedenheit mit einer k\u00fcnstlichen statistischen Zusammenstellung langfristig die Gefahr, dass unsere kognitiven, emotionalen und kommunikativen F\u00e4higkeiten nachlassen.
\nIn den letzten Jahren \u00fcbernehmen k\u00fcnstliche Intelligenzsysteme zunehmend auch die Kontrolle \u00fcber die Produktion von Texten, Musik und Videos. Ein Gro\u00dfteil der menschlichen Kreativwirtschaft l\u00e4uft somit Gefahr, demontiert und durch das Label \u201ePowered by AI<\/i>\u201d ersetzt zu werden, wodurch die Menschen zu blo\u00dfen passiven Konsumenten von nicht gedachten Gedanken, anonymen Produkten ohne Urheberschaft und ohne Liebe werden. Die Meisterwerke des menschlichen Genius in den Bereichen Musik, Kunst und Literatur werden zu einem blo\u00dfen \u00dcbungsfeld f\u00fcr Maschinen degradiert.
\nAllerdings besch\u00e4ftigt uns nicht so sehr die Frage, was die Maschine leisten kann oder leisten wird, sondern das, was wir leisten k\u00f6nnen und leisten werden, wenn wir an Menschlichkeit und Erkenntnis zunehmen und diese m\u00e4chtigen Werkzeuge, die uns zur Verf\u00fcgung stehen, klug einsetzen.
\nSeit jeher ist der Mensch versucht, sich die Fr\u00fcchte des Wissens anzueignen, ohne sich anzustrengen, ohne zu forschen und ohne pers\u00f6nliche Verantwortung zu \u00fcbernehmen. Auf den kreativen Prozess zu verzichten und seine geistigen F\u00e4higkeiten und Vorstellungskr\u00e4fte den Maschinen zu \u00fcberlassen, bedeutet jedoch, die Talente zu begraben, die wir erhalten haben, um als Menschen in Beziehung zu Gott und zu den anderen zu wachsen. Es bedeutet, unser Gesicht zu verbergen und unsere Stimme zum Schweigen zu bringen.<\/p>\n
\nWenn wir durch unsere Feeds scrollen, wird es immer schwieriger zu erkennen, ob wir mit anderen Menschen oder mit \u201eBots\u201d oder \u201evirtuellen Influencern\u201d interagieren. Die wenig transparenten Eingriffe dieser automatisierten Agenten beeinflussen \u00f6ffentliche Debatten und die Entscheidungen der Menschen. Chatbots, die auf gro\u00dfen Sprachmodellen (LLMs) basieren, erweisen sich durch die kontinuierliche Optimierung personalisierter Interaktionen als \u00fcberraschend effektiv bei der verdeckten Beeinflussung. Die dialogische, adaptive und mimetische Struktur dieser Sprachmodelle ist in der Lage, menschliche Gef\u00fchle nachzuahmen und so Beziehung zu simulieren. Diese Anthropomorphisierung, die sogar unterhaltsam sein kann, ist gleichzeitig irref\u00fchrend, insbesondere f\u00fcr anf\u00e4lligere Menschen. Denn Chatbots, die \u00fcberm\u00e4\u00dfig \u201eliebevoll\u201d und zudem immer pr\u00e4sent und verf\u00fcgbar sind, k\u00f6nnen zu versteckten Gestaltern unserer emotionalen Zust\u00e4nde werden und auf diese Weise in die Intimsph\u00e4re der Menschen eindringen und diese in Beschlag nehmen.
\nTechnologien, die unser Bed\u00fcrfnis nach Beziehungen ausnutzen, k\u00f6nnen nicht nur schmerzhafte Folgen f\u00fcr das Leben einzelner Menschen haben, sondern auch das soziale, kulturelle und politische Gef\u00fcge der Gesellschaft sch\u00e4digen. Dies geschieht, wenn wir Beziehungen zu anderen Menschen durch Beziehungen zu KI-Systemen ersetzen, die unsere Gedanken katalogisieren und eine Welt aus Spiegeln um uns herum zu konstruieren, in der alles \u201enach unserem Bild und Gleichnis\u201c geschaffen ist. Dadurch wird uns die M\u00f6glichkeit genommen, anderen Menschen zu begegnen, die immer anders sind als wir selbst und mit denen wir lernen k\u00f6nnen und m\u00fcssen, umzugehen. Ohne Annahme des Andersseins, kann es weder Beziehungen oder Freundschaft geben.
\nEine weitere gro\u00dfe Herausforderung, die diese neuen Systeme mit sich bringen, ist die Verzerrung (auf Englisch \u201eBias<\/i>\u201c), die dazu f\u00fchrt, dass die Wirklichkeit verf\u00e4lscht wahrgenommen und weitergegeben wird. KI-Modelle sind von der Weltanschauung ihrer Entwickler gepr\u00e4gt und k\u00f6nnen ihrerseits Denkweisen aufzwingen, indem sie die Stereotypen und Vorurteile der Daten, auf die sie zur\u00fcckgreifen, reproduzieren. Die mangelnde Transparenz bei der Entwicklung von Algorithmen sowie die unzureichende soziale Repr\u00e4sentativit\u00e4t der Daten f\u00fchren dazu, dass wir in Netzwerken gefangen bleiben, die unsere Gedanken manipulieren und bestehende soziale Ungleichheiten und Ungerechtigkeiten aufrechterhalten und vertiefen.
\nDas Risiko ist gro\u00df. Die Macht der Simulation ist so gro\u00df, dass die KI uns sogar mit der Erzeugung paralleler \u201eWirklichkeiten\u201c t\u00e4uschen kann, indem sie sich unsere Gesichter und Stimmen aneignet. Wir sind in eine Multidimensionalit\u00e4t eingetaucht, in der es immer schwieriger wird, die Wirklichkeit von der Fiktion zu unterscheiden.
\nUngenauigkeiten versch\u00e4rfen dieses Problem nur noch. Systeme, die statistische Wahrscheinlichkeiten als Wissen pr\u00e4sentieren, bieten uns bestenfalls Ann\u00e4herungen an die Wahrheit, die manchmal regelrechte T\u00e4uschungen sind. Die mangelnde \u00dcberpr\u00fcfung von Quellen in Verbindung mit der Krise der Berichterstattung vor Ort, bei der Informationen st\u00e4ndig an den Orten gesammelt und \u00fcberpr\u00fcft werden m\u00fcssen, an denen Ereignisse stattfinden, kann Desinformation weiter beg\u00fcnstigen und zu einem wachsenden Gef\u00fchl von Misstrauen, Verwirrung und Unsicherheit f\u00fchren.<\/p>\n
\n<\/a><\/a>Die vor uns liegende Aufgabe besteht nicht darin, die digitale Innovation zu stoppen, sondern sie zu lenken und uns ihrer Ambivalenz bewusst zu sein. Es ist an jedem Einzelnen von uns, seine Stimme zur Verteidigung des Menschen zu erheben, damit wir diese Werkzeuge wirklich als Verb\u00fcndete f\u00fcr uns gewinnen k\u00f6nnen.
\nEine solche Allianz ist m\u00f6glich, aber sie muss sich auf drei S\u00e4ulen gr\u00fcnden: Verantwortung<\/i>,\u00a0Zusammenarbeit<\/i>\u00a0und\u00a0Bildung<\/i>.
\nZun\u00e4chst\u00a0Verantwortung<\/i>. Diese kann je nach der Rolle, die wir innehaben, als Ehrlichkeit, Transparenz, Mut, Weitsicht, Pflicht zur Weitergabe von Wissen oder Recht auf Information zum Ausdruck kommen.\u00a0 Im Allgemeinen kann sich jedoch niemand seiner Verantwortung gegen\u00fcber der Zukunft, die wir gestalten, entziehen.
\nF\u00fcr diejenigen, die an der Spitze von Online-Plattformen stehen, bedeutet dies, dass sie sicherstellen m\u00fcssen, dass ihre Gesch\u00e4ftsstrategien nicht ausschlie\u00dflich vom Kriterium der Gewinnmaximierung geleitet werden, sondern auch von einer zukunftsorientierten Vision, die das Gemeinwohl ber\u00fccksichtigt, so wie einem jeden von ihnen das Wohlergehen seiner eigenen Kinder am Herzen liegt.
\nVon den Urhebern und Entwicklern von KI-Modellen ist Transparenz und soziale Verantwortung hinsichtlich der Gestaltungsprinzipien und Moderationssysteme, die ihren Algorithmen und den von ihnen entwickelten Modellen zugrunde liegen, gefordert, damit eine informierte Zustimmung vonseiten der Nutzer beg\u00fcnstigt wird.
\nDie gleiche Verantwortung obliegt auch nationalen Gesetzgebern und supranationalen Regulierungsbeh\u00f6rden, deren Aufgabe es ist, die Achtung der Menschenw\u00fcrde zu gew\u00e4hrleisten. Durch geeignete Vorschriften kann verhindert werden, dass Menschen emotionale Bindungen zu Chatbots aufbauen, und die Verbreitung falscher, manipulierender oder irref\u00fchrender Inhalte einged\u00e4mmt werden, wodurch die Integrit\u00e4t von Informationen gegn\u00fcber ihrer t\u00e4uschenden Simulation gewahrt bleibt.
\nMedien- und Kommunikationsunternehmen d\u00fcrfen ihrerseits nicht zulassen, dass Algorithmen, die darauf ausgelegt sind, um jeden Preis ein paar Sekunden zus\u00e4tzliche Aufmerksamkeit zu erregen, Vorrang vor ihrem Berufsethos haben, das auf die Suche nach der Wahrheit ausgerichtet ist. Das Vertrauen der \u00d6ffentlichkeit wird durch Genauigkeit und Transparenz gewonnen, nicht durch das Streben nach jeder Art von m\u00f6glicher Interaktion. Von KI generierte oder manipulierte Inhalte m\u00fcssen klar gekennzeichnet und von Inhalten unterschieden werden, die von Menschen erstellt wurden. Die Urheberschaft und das Eigentumsrecht an den Werken von Journalisten und anderen Content-Erstellern m\u00fcssen gesch\u00fctzt werden. Informationen sind ein \u00f6ffentliches Gut. Ein konstruktiver und sinnvoller Dienst an der Allgemeinheit basiert nicht auf Undurchsichtigkeit, sondern auf der Transparenz der Quellen, der Einbeziehung der Beteiligten und hohen Qualit\u00e4tsstandards.
\nAlle sind wir zur\u00a0Zusammenarbeit\u00a0<\/i>aufgerufen. Kein Sektor kann die Herausforderung, die darin besteht, die digitale Innovation zu gestalten und die KI zu regeln, alleine bew\u00e4ltigen. Deswegen m\u00fcssen Schutzmechanismen geschaffen werden. Alle Beteiligten \u2013 von der Technologiebranche \u00fcber Gesetzgeber, Kreativunternehmen und die akademische Welt bis hin zu K\u00fcnstlern, Journalisten und P\u00e4dagogen \u2013 m\u00fcssen in den Aufbau und die F\u00f6rderung einer m\u00fcndigen und verantwortungsvollen digitalisierten Gesellschaft einbezogen werden.
\nDarauf zielt die\u00a0Bildung<\/i>: unsere pers\u00f6nlichen Kompetenzen zu st\u00e4rken, die es uns erm\u00f6glichen, kritisch zu denken; die Zuverl\u00e4ssigkeit von Quellen und die m\u00f6glichen Interessen hinter der Auswahl der Informationen, die uns erreichen, zu bewerten; die psychologischen Mechanismen zu verstehen, die sie ausl\u00f6sen; unseren Familien, Gemeinschaften und Vereinigungen zu erlauben, praktische Kriterien f\u00fcr eine ges\u00fcndere und verantwortungsbewusstere Kommunikationskultur zu entwickeln.
\n<\/a>Gerade deshalb ist es immer dringender n\u00f6tig, in den Bildungssystemen auf allen Ebenen auch die Kompetenzen im Bereich der K\u00fcnstlichen Intelligenz zu st\u00e4rken, die einige zivile Einrichtungen bereits f\u00f6rdern. \u00a0Als Katholiken k\u00f6nnen und m\u00fcssen wir unseren Beitrag leisten, damit die Menschen \u2013 insbesondere die jungen \u2013 die F\u00e4higkeit zum kritischen Denken erwerben und in geistiger Freiheit aufwachsen k\u00f6nnen. Diese Medienkompetenz sollte au\u00dferdem in umfassendere Initiativen zur Weiterbildung integriert werden, die auch \u00e4ltere Menschen und ausgegrenzte Mitglieder der Gesellschaft erreichen, die sich angesichts des raschen technologischen Wandels oft ausgeschlossen und ohnm\u00e4chtig f\u00fchlen.
\nMedien-, Informations- und KI-Kompetenz helfen Einzelpersonen dabei, sich nicht den anthropomorphisierenden Tendenzen von KI-Systemen anzupassen, und erm\u00f6glichen es ihnen, diese Systeme als Werkzeuge zu betrachten und stets eine externe Validierung der von KI-Systemen bereitgestellten Quellen vorzunehmen \u2013 die ungenau oder falsch sein k\u00f6nnten. Solch eine Kompetenz erm\u00f6glicht auch einen besseren Datenschutz und eine bessere Privatsph\u00e4re durch ein gesteigertes Bewusstsein f\u00fcr Sicherheitsparameter und Beschwerdem\u00f6glichkeiten. Es ist wichtig, sich selbst und andere darin zu schulen, die KI bewusst zu nutzen, und in diesem Zusammenhang das eigene Bild (Fotos und Audio), das eigene Gesicht und die eigene Stimme zu bewahren, um zu verhindern, dass sie f\u00fcr die Erstellung sch\u00e4dlicher Inhalte und Verhaltensweisen wie digitalen Betrug, Cybermobbing und Deepfakes<\/i>\u00a0verwendet werden, die ohne Zustimmung der Betroffenen deren Privatsph\u00e4re und Intimit\u00e4t verletzen. So wie die industrielle Revolution grundlegende Kenntnisse erforderte, damit die Menschen auf neue Entwicklungen reagieren konnten, so erfordert auch die digitale Revolution digitale Kompetenz (zusammen mit humanistischer und kultureller Bildung), um zu verstehen, wie Algorithmen unsere Wahrnehmung der Realit\u00e4t pr\u00e4gen, wie KI-Verzerrungen funktionieren, welche Mechanismen das Erscheinen bestimmter Inhalte in unseren Feeds bestimmen, welche wirtschaftlichen Pr\u00e4missen und Modelle der KI-Wirtschaft es gibt und wie sie sich ver\u00e4ndern k\u00f6nnen.
\nWir m\u00fcssen daf\u00fcr sorgen, dass das Gesicht und die Stimme wieder die Person zum Ausdruck bringen. Wir m\u00fcssen die Gabe der Kommunikation als die tiefste Wahrheit des Menschen bewahren, an der sich auch jede technologische Innovation orientieren muss.
\nMit diesen \u00dcberlegungen danke ich allen, die sich f\u00fcr die hier dargelegten Ziele einsetzen, und segne von Herzen alle, die sich mithilfe der Kommunikationsmittel f\u00fcr das Gemeinwohl engagieren.<\/p>\n
\nLeo PP. XIV<\/p>\n