Rund um den Globus
🎧 Podcast:
Kampf für Menschenrechte im KI-Zeitalter – SRF Perspektiven
Wie lassen sich Freiheit und Menschlichkeit im KI-Zeitalter sichern? Der Ethiker Peter G. Kirchschläger spricht über die gesellschaftlichen und ethischen Folgen künstlicher Intelligenz, die Macht grosser Tech-Unternehmen und die Frage, wie demokratische Gesellschaften auf die rasante technologische Entwicklung reagieren können.
📰 Artikel:
Kostenfalle KI: Wie Anträge die Justiz lähmen – SRF
Immer mehr Laien nutzen KI, um juristische Eingaben zu verfassen. Das führt teilweise zu umfangreichen oder wenig aussichtsreichen Anträgen und verursacht zusätzliche Arbeit für die Gerichte. Der Beitrag zeigt, welche Herausforderungen der Einsatz von KI für Justiz und Rechtssuchende mit sich bringt.
Wie gefährlich wird künstliche Intelligenz tatsächlich? – SRF
Anthropic-Mitgründer Jack Clark warnt davor, dass sich KI künftig selbstständig weiterentwickeln könnte. Der Beitrag ordnet ein, was hinter der sogenannten rekursiven Selbstverbesserung steckt, weshalb Fachleute deren Machbarkeit unterschiedlich beurteilen und welche Fragen sich daraus für die Kontrolle von KI ergeben.
Papst präsentiert Lehrschreiben zu künstlicher Intelligenz – SRF
Wie lässt sich die Menschenwürde im Zeitalter künstlicher Intelligenz schützen? In seiner ersten Enzyklika «Magnifica Humanitas» beschäftigt sich Papst Leo XIV. mit Chancen und Risiken von KI und fordert klare Kriterien und wirksame Kontrollen für ihren Einsatz.
Autonome Drohnen im Krieg – SRF
Der Einsatz zunehmend autonomer Drohnen verändert die Kriegsführung. Der Ethiker Markus Christen ordnet ein, welche technischen Entwicklungen dabei eine Rolle spielen und welche ethischen Fragen entstehen, wenn Maschinen im Krieg immer selbstständiger agieren.
Jagd auf alte Bücher – SRF
Alte Bücher sind zu einer begehrten Ressource für das Training künstlicher Intelligenz geworden. Der Beitrag geht Berichten nach, wonach grosse Mengen gebrauchter Bücher aufgekauft, digitalisiert und anschliessend vernichtet werden – und beleuchtet, was hinter diesem ungewöhnlichen Geschäft mit gedrucktem Wissen steckt.
Wie gelingt eine wirksame Aufsicht über künstliche Intelligenz?
Eine wirksame Aufsicht über KI braucht mehr als gesetzliche Rahmenbedingungen. Der UNESCO-Beitrag zeigt, welche Rolle technische Kompetenzen sowie nationale und internationale Koordination spielen, damit KI-Systeme wirksam beaufsichtigt werden können.
🎬 Dokumentation:
Der digitale Tsunami – ARTE
(noch bis am 20. Oktober 2026 zugänglich)
Wie verändert die digitale Revolution unsere Gesellschaft? Die Dokumentation beleuchtet die gesellschaftlichen und politischen Folgen neuer Technologien – von der Macht grosser Tech-Konzerne und Algorithmen über künstliche Intelligenz und Desinformation bis hin zu autonomen Waffensystemen und staatlicher Überwachung. Im Zentrum steht die Frage, wie viel Kontrolle wir über Technologien behalten, die unseren Alltag zunehmend prägen.
Ausgewählt für dich
Alles beginnt hier
Manche Bücher geben keine einfachen Antworten dafür stellen sie die richtigen Fragen. In jeder Ausgabe empfehlen wir ausgewählte Werke, die unser jeweiliges Schwerpunktthema vertiefen und neue Zusammenhänge aufzeigen. Viel Vergnügen!
Digitale Ethik von Dagmar Fenner
Wie gestalten wir den digitalen Wandel verantwortungsvoll?
Dagmar Fenner beleuchtet in «Digitale Ethik» zentrale ethische Fragen der fortschreitenden Digitalisierung. Im Fokus stehen unter anderem digitale Medien, künstliche Intelligenz, Datafizierung und Big Data sowie deren Auswirkungen auf Mensch und Gesellschaft. Das Buch bietet einen fundierten Einstieg in die ethische Auseinandersetzung mit dem digitalen Wandel.
Digitale Transformation und Ethik von Peter G. Kirchschläger
Wie lässt sich die digitale Transformation ethisch gestalten?
Peter G. Kirchschläger betrachtet Digitalisierung, Robotisierung, Automatisierung und künstliche Intelligenz aus ethischer Perspektive. Er untersucht, welche Chancen und Herausforderungen mit der digitalen Transformation von Gesellschaft und Wirtschaft verbunden sind, und entwickelt ethische Prinzipien und Lösungsansätze für deren Beurteilung und Gestaltung. Das Buch verbindet damit technologischen Wandel mit grundlegenden Fragen nach Moral und Verantwortung.
Atlas der KI von Kate Crawford
Was steckt wirklich hinter künstlicher Intelligenz?
Kate Crawford zeigt, dass KI nicht nur aus Daten und Algorithmen besteht, sondern auf Rohstoffen, Energie, menschlicher Arbeit und globalen Machtstrukturen beruht. Atlas der KI macht die oft unsichtbaren ökologischen und gesellschaftlichen Folgen künstlicher Intelligenz sichtbar. Das Buch eröffnet damit einen kritischen Blick auf die materiellen Grundlagen und Machtverhältnisse hinter der KI.
Ethik in der digitalen Transformation
Heute stehen wir als Menschen an einem kritischen Punkt, wir müssen uns schwierigen, Fragen über die Art und Weise stellen, wie die digitale Transformation gestaltet werden soll (vgl. Crawford 2025: S. 29). Ethik als wissenschaftliche Disziplin denkt über die Moral von Individuen und der Gesellschaft nach, um zu beantworten, wie gehandelt werden soll. Dabei sucht die Ethik nach allgemein verbindlichen Antworten, fragt nach dem Wozu, Woher und Warum. Die Ethik strebt dabei mit grösstmöglicher Objektivität – reflexiv, systematisch, kritisch und logisch nach einer universellen, rational plausibilisierbaren und intergenerationellen Vorstellung von gut und schlecht sowie richtig und falsch (vgl. Kirchschläger 2024a: S. 15).
Die digitale Transformation verändert nicht nur Wirtschaft und Gesellschaft, sondern auch die Art und Weise, wie Menschen und Unternehmen interagieren und handeln. Kennzeichnend dafür ist eine exponentielle Zunahme digital verfügbarer Informationen, die für Maschinen nutzbar gemacht werden können und das Fundament unterschiedlichster, zunehmend aufkommender Technologien bilden (vgl. Aubel, Ell & Engler 2024: S. 552). Längst hat die sog. «Künstliche Intelligenz» (KI), die seit den 1950er Jahren entwickelt und jüngst rasante Entwicklungsschritte verzeichnet, Einzug in unseren Alltag gehalten. Privatpersonen nutzen die Technologie seit Jahren mit steigender Tendenz. Dieser Trend lässt sich auch auf die Geschäftswelt übertragen. In der Landwirtschaft wird sie zur Unkraut- und Schädlingsbekämpfung, in der Pharmaindustrie zur Forschung und Entwicklung neuer Medikamente genutzt, und bei der Warenentwicklung und Vermarktung fliessen KI-gestützte Analysen ein (vgl. Göller, Gotzes, Krjazewic et al. 2025: S. 8). Der aktuelle Wettlauf der Anbieter:innen um die Leistungsfähigsten Systeme und deren Einsatzmöglichkeiten, die teils sogar ohne Kostendeckung angeboten werden, zielt auf die Gewinnung von Marktanteilen und führt so zu einer Marktkonzentration bei wenigen Firmen (vgl. Göller, Gotzes, Krjazewic et al. 2025: S. 27).
Angesichts dessen ist es eine Aufgabe von Ethiker:innen sich in der digitalen Transformation mit ihren multidimensionalen Phänomenen auseinandersetzten und in die geführten Diskurse, Forschungs- und Entwicklungsprozesse einzubringen (vgl. Kirchschläger 2024a: S. 35-57). Dadurch kann Ethik wirksam orientieren wie, wozu und warum sog. «Künstliche Intelligenz» entwickelt und angewendet werden soll. So lassen sich ethische Chancen nutzen, Herausforderungen meistern, Risiken bestimmen und festhalten, wo technologischem Fortschritt ethisch begründete Grenzen gesetzt werden müssen (vgl. Crawford 2025: S. 29, Vgl. Kirchschläger 2024a: S.). Damit das Angesicht der Komplexität der digitalen Transformation gelingt, ist es mitentscheidend erst Klarheit über die zwei Begriffe «Digitale Transformation» und «Künstliche Intelligenz» (KI) zu verschaffen (vgl. Kirchschläger 2024a: S. 89). und zugleich die Entwicklungsstufen von technologischem Fortschritt zu durchdringen (vgl. Wirtz 2020: S.129; Wirtz 2022: S. 256).
Digitale Transformation
Die digitale Transformation –oft (fälschlicherweise) verkürzt als «Digitalisierung» bezeichnet – fungiert dabei als Oberbegriff für technologiebasierte Veränderungen. Phänomene der Automatisierung, Mechanisierung, Maschinisierung, Robotisierung, sowie der Einsatz sog. «KI», (vgl.Kirchschläger 2024: S. 100-101) wobei Informationen als Daten und Prozesse als Algorithmen das Herzstück bilden (vgl. Fenner 2025: S. 28). In diesem Kontext sind sie nichts mehr als Handlungsvorschriften für Computer zur Lösung eines Problems, die durch endlich viele, wohldefinierte Einzelschritte ein Ergebnis generieren. Sie können mit «Big Data» umgehen und Informationen verarbeiten (vgl. Gruppe GAMBITTOG 2017: S.41-52). Dabei geht es in einem ersten Schritt – «Digitization» – um die technische Umwandlung analoger Daten und Prozesse in das binäre Zahlensystem aus 0 und 1. In einem zweiten Schritt – «Digitalization» – werden diese Daten verarbeitet und Verbindungen zwischen digitaler Hardware und Prozessen hergestellt. Der dritte Schritt – «digital Transformation» – ist ein vertikal und horizontal wirkender multidimensionaler struktureller Wandel, der den Menschen und sein Selbstverständnis, die Gesellschaft, sowie die Systeme der Welt prägen (vgl. Fenner 2025: S. 20-27).
Entwicklungsstufen der Automatisierung und Robotik
Die «Stufen der digitalen Automatisierung und Robotik» lassen sich anhand von sechs verschiedenen Entwicklungsstufen veranschaulichen. Die Entwicklungsstufe 0 – nicht automatisiert – entspricht dabei dem niedrigsten Grad an Automatisierung und technologischem Fortschritt. Mit fortschreitender Technologie steigt der Automatisierungsgrad entsprechend an. Diese Entwicklung führt schrittweise über die folgenden Entwicklungsstufen 1 – assistiert, 2 – teilautomatisiert, 3 – bedingt automatisiert, 4 – hochautomatisiert bis zur höchsten Entwicklungsstufe 5 – vollautomatisiert, in welcher Prozesse vollständig ohne menschliches Eingreifen ablaufen (vgl. Wirtz 2020: S.129; Wirtz 2022: S. 256).
Abbildung 1: «Stufen der digitalen Automatisierung und Robotik Wirtz 2022: S. 256»
Datenbasierte Systeme - sog. «Künstliche Intelligenz»
Zu sog. «künstlicher Intelligenz» gibt es eine Vielzahl ganz verschiedener Definitionen. Konsolidiert lässt sich festhalten, dass sich in diesen Definitionen als gemeinsames Merkmal ein anthropozentrisches (vermenschlichendes) Moment findet. Zudem wird unter künstlicher Intelligenz die Forschung und Entwicklung von Maschinen, die in Anlehnung an die menschliche Intelligenz, «menschenähnlich» denken, handeln und sich selbst verbessern verstanden (vgl. Kirchschläger 2024a: S. 90-95). Aus Sicht der Ethik ist folgende Kritik an diesem Intelligenzbegriff von Misselhorn (2018) relevant:
«Die Schlussfolgerung, dass ein simpler Taschenrechner intelligent ist […] erscheint absurd. Intelligenz erschöpft sich nicht darin, ein bestimmtes kognitives Problem zu lösen, sondern es kommt darauf an, wie das geschieht.»
(vgl. Misselhorn 2018: S. 17)
Das Problem der Vermenschlichung (Anthropomorphisierung) ist psychologisch betrachtet eine Selbsttäuschung des Menschen. In diesem Fall werden Maschinen, die keine Menschen sind, menschliche Eigenschaften zugeschrieben (vgl. Fenner 2025: S. 451-452). Funk (2022) erklärt, dass Maschinen im alltäglichen Sprachgebrauch häufig unzulässig normativ aufgeladen werden. Dabei bezieht er sich auf das Verhältnis, wie Menschen Roboter beschreiben und analysieren und wie Roboter Menschen beschreiben und analysieren und leitet daraus insgesamt vier Fehlschlüsse ab (vgl. Funk 2022: S. 60-61):
Ein Mensch beschreibt einen Roboter so, als ob dieser ein Mensch wäre.
Ein Mensch beschreibt einen anderen Menschen so, als ob dieser ein Roboter wäre.
Ein Roboter oder Sprachbot analysiert Menschen mit technisch-deskriptiven Prädikaten.
Ein Roboter oder Sprachbot analysiert Menschen mit menschlich-normativen Prädikaten.
Die empirische Erfassung des Begriffs «Intelligenz» erweist sich offensichtlich als herausfordernd und im ethischen Diskurs zugleich von gewissen Attributen, die der Mensch darauf projiziert eingefärbt zu sein (vgl. Mülhoff 2025: S. 24):
«Der Intelligenzbegriff scheint – zumindest in westlichen Kulturkreisen – zugleich so grundlegend für das menschliche Selbstverständnis zu sein, dass die Behauptung, Intelligenz könne künstlich simuliert oder gar repliziert werden, etwas Unheimliches, Provokatives und zugleich aber auch immer etwas Faszinierendes hat.»
(vgl. ebd., S. 24-25)
Dies wirft die Frage auf – was ist künstliche Intelligenz? – menschgemacht, ja – aber auch intelligent? Oder nur künstlich? Die Form von Intelligenz wächst nicht mit der Menge an verarbeiteten Daten (vgl. Misselhorn 2018: S. 17-20). Ein Roboter weiss nicht, warum er etwas tun oder lassen soll. Er führt Handlungen stets in gleicher Weise aus – unabhängig von deren ethischer Qualität. Ob eine Handlung aus ethischer Sicht gut oder schlecht, richtig oder falsch ist, ist für Technologien weder heute noch in Zukunft zugänglich. Gewalt oder Wohlwollen gegenüber Menschen spielen für künstliche Intelligenz schlicht keine Rolle – es ist ihnen nicht einmal egal. Menschen hingegen können moralisch unterscheiden – gut und schlecht, richtig und falsch – oft intuitiv, etwa durch das Gewissen. Roboter und alle als künstliche Intelligenz betitelten Technologien hingegen funktionieren mit Daten und Algorithmen – und sind daher genau das, wonach sie benannt sind – datenbasierte Systeme (vgl. Kirchschläger 2024a: S. 95-100).
Die Algorithmen der künstlichen Intelligenz arbeiten mit Daten, ohne welche sie nicht funktionieren. Weil Daten für algorithmische Systeme zentral sind, sollte man aus Sicht der Ethik daher von datenbasiertem System – und nicht von künstlicher Intelligenz sprechen. Die sog. «künstliche Intelligenz» versucht die menschliche Intelligenz zu imitieren, diese bleibt den Maschinen aber immer auf bestimmte Bereiche beschränkt. Das wird umso klarer, wenn verschiedene Bereiche betrachtet werden. Einerseits solche in denen künstliche Intelligenz dem Menschen bereits heute überlegen ist, wie z.B. Big-Data, Memory und logische Deduktion – Bereiche wo mit grossen Datenmengen gearbeitet wird und darin Muster erkennt werden. Betrachtet man hingegen gleichzeitig andere Aspekte, so ist davon auszugehen, dass die künstliche Intelligenz die menschliche Intelligenz in diesen Bereichen auch in Zukunft nicht ersetzen können wird – denn das sind Bereiche der Intelligenz zu denen sich nur Menschen verhalten können. Diese Bereiche der Intelligenz umfassen z.B. die Intelligenz des Menschen, sich selbst ethische Standards zu setzen, sowie die emotionale und soziale Intelligenz des Menschen. Es sind demnach Bereiche, die für datenbasierte Systeme weder heute noch morgen erreichbar sind. Dies ist also selbst durch eine exponentielle Zunahme der Rechenleistung der Computer und der Möglichkeit in weiter Zukunft, immer mehr Daten immer schneller zu verarbeiten nicht möglich (vgl. Kirchschläger 2024, S. 95-100).
Autor des Papers: Louis Khunti
Literaturverzeichnis
Aubel, H., Ell, R., & Engler, P. (2024). Der neue Kosmos Welt-Almanach & Atlas 2025: Daten. Fakten. Karten. Topthema: Flucht & Migration(1. Auflage). Franckh-Kosmos Verlag, Stuttgart.
Crawford, K. (2025). Atlas der KI: Die materielle Wahrheit hinter den neuen Datenimperien (1. Auflage). C.H. Beck, München.
Fenner, D. (2025). Digitale ethik: Eine Einführung: Vol. utb 6281 (1. Auflage). utb. / Narr Francke Attempto Verlag, Tübingen. https://doi.org/10.36198/9783838562810
Kap. 3.2.2 Überwachung: Privatheit und Manipulation, S. 320-325
Funk, M. (2024). Ethik künstlicher Intelligenz: Eine Topographie zur praktischen Orientierung: Vol. essentials (1. Auflage). Springer Vieweg.
Göller, T., Gotzes, A., Krjazewic, T., Laatsch, A., Laatsch, K., Reckewitz, M., & Werner, H. (2025). Der neue Kosmos Welt-Almanach & Atlas 2026: Daten. Fakten. Karten. Topthema: Aufbruch in eine neue Welt (1. Auflage). COLUMBUS Verlag, Krauchenwies.
Kap. Globale Themen S. 7-29 / Kap. China S. 92-97 / Kap. Schweiz S. 360-363 / Kap. Regionale Entwicklungen Absatz zu China S. 535-536
Gruppe GAMBITTOG. (2017). Go - faster: Die Algorithmisierung der Gesellschaft. In Denknetz (Ed.), Technisierte Gesellschaft, Bestandesaufnahmen und kritische Analyse eines Hypes: Vol. Jahrbuch 2017 (pp. 41–52). edition 8 Verlag, Zürich.
Kirchschläger, P. G. (2024). Digitale Transformation und Ethik: ethische Überlegungen zur Robotisierung und Automatisierung von Gesellschaft und Wirtschaft und zum Einsatz von “Künstlicher Intelligenz”: Vol. Ethik I Ethics (1. Auflage). Nomos Verlagsgesellschaft, Baden-Baden.
Kap. 6.4 Menschenrechte als ethische Referenzpunkte, S. 145-196
Misselhorn, C. (2018). Grundfragen der Maschinenethik: Vol. Nr. 19583 (5., durchgesehene und überarbeitete Auflage). Philipp Reclam jun. Verlag, Stuttgart.
Mühlhoff, R. (2025). Künstliche Intelligenz und der neue Faschismus: (Was bedeutet das alles?) - KI und AGI (Artificial General Intelligence) - Wie Tech-Milliardäre Macht und Zukunft formen.
Wirtz, B. W. (2023). Digital business: Strategien, Geschäftsmodelle und Technologien. Springer Gabler.
Desinformation, Fake News und sog. Künstliche Intelligenz
Die rasante Entwicklung der sog. Künstlichen Intelligenz (KI), besser bezeichnet als datenbasierte Systeme (DS), hat in den letzten Jahren nicht nur technologische, sondern auch tiefgreifende gesellschaftliche Veränderungen angestossen. Diese Entwicklungen erfordern zwingend ethische Reflexionen, sind die Auswirkungen auf unsere Lebenswelt doch überaus real. Insbesondere die Bereitstellung von Informationen, die Gestaltung von Meinungsbildungsprozessen und die Integrität demokratischer Wahlen stehen angesichts neuer Technologien vor beispiellosen Herausforderungen.
Die neue Ära der generativen Inhalte und die epistemische Krise
Die technologische Grundlage der aktuellen Informationslandschaft hat sich in den vergangenen Jahren fundamental gewandelt. Datengestützte Werkzeuge ermöglichen heute die teilweise Automatisierung und Unterstützung bei der Erstellung von Texten, Bildern und Videos. Diese Systeme sind in der Lage, Inhalte nicht nur zu generieren, sondern diese auch an vielfältige Formate und Kommunikationskanäle anzupassen. Was auf der einen Seite als immense Erleichterung für die Erstellung von Informationsmaterialien und die Kommunikation politischer Themen dient, birgt auf der anderen Seite ein enormes Missbrauchspotenzial.
Wenn wir über dieses Potenzial sprechen, müssen wir den Begriff des «epistemischen Risikos» in den Mittelpunkt stellen. Forscherinnen und Forscher warnen vor einer kommenden Krise des öffentlichen Wissens, da DS ein erhebliches epistemisches Risiko für Demokratien darstellt. Epistemologie befasst sich mit der Frage, wie wir Wissen erlangen und was wir als Wahrheit akzeptieren. Wenn datenbasierte Systeme genutzt werden, um im grossen Masse Desinformationen zu produzieren, wird genau dieser Prozess der Wahrheitsfindung gestört.
Die Rolle der Plattformen: Die Wächter des Internets
Um zu verstehen, wie sich Desinformation verbreitet, müssen wir die Infrastruktur des Internets betrachten. Soziale Netzwerke und Suchmaschinen sind nicht bloss neutrale Übermittler von Daten. Vielmehr agieren diese Plattformen als « Wächter des Internets». Sie treffen durch Algorithmen und Richtlinien zur Inhaltsmoderation verborgene Entscheidungen, die massgeblich formen, wie soziale Medien funktionieren und welche Inhalte sichtbar werden.
Die Moderation von Inhalten ist in diesem Zusammenhang ein kritisches Feld. Plattformen stehen vor dem Dilemma, Meinungsfreiheit zu gewährleisten, während sie gleichzeitig die Verbreitung schädlicher Desinformation eindämmen müssen. Die automatisierte Analyse von Texten durch sog. KI kann genutzt werden, um die Eingaben von Bürgerinnen und Bürgern in Beteiligungsprozessen besser auszuwerten und zu verstehen. Gleichzeitig wirft der Einsatz von Algorithmen zur Inhaltsfilterung Fragen nach algorithmischer politischer Voreingenommenheit auf. Die Herausforderung besteht darin, dass die Algorithmen, die Empfehlungen aussprechen und Rankings erstellen, oft auf Engagement und Interaktion optimiert sind – Metriken, die durch polarisierende und emotionalisierende Falschinformationen besonders leicht in die Höhe getrieben werden.
Zivilgesellschaftliche Antworten?
Die Bekämpfung von Desinformation kann nicht allein Technologiekonzernen überlassen werden. Eine wehrhafte Demokratie benötigt die aktive Einbindung ihrer Bürgerinnen und Bürger. Dabei können bspw. Bürgerinnen und Bürger in die Bewältigung der Konsequenzen einbezogen werden, die durch absichtlich verbreitete falsche oder irreführende Informationen in der Gesellschaft entstehen.
Ein Beispiel für eine solche Initiative war das sogenannte «Forum Against Fakes» 2024, welches von der Bertelsmann Stiftung in Deutschland entworfen und implementiert wurde. Solche Formate sind essenziell, da sie nicht nur technokratische Lösungen suchen, sondern das gesellschaftliche Vertrauen stärken. Wenn Bürgerinnen und Bürger selbst zu Expertinnen und Experten für die Mechanismen von Desinformation werden, entwickeln sie eine Resilienz, die durch algorithmische Filterung niemals erreicht werden könnte. Gleichzeitig genügt es nicht, strukturelle, gesellschaftliche oder systemische Herausforderungen auf Individuen oder die Zivilbevölkerung zu delegieren, sondern es werden auch institutionelle Mechanismen benötigt. Dieser Prozess ist gleichzeitig mit besonderer Behutsamkeit anzugehen, denn gerade, wenn es um die Regulierung von Informationsverbreitung geht, kann dies das Risiko der Zensur bergen und zu Misstrauen seitens der Bevölkerung führen.
Technische und ethische Gegenmassnahmen: Von Red-Teaming bis zu offenen Protokollen
Um der Flut an DS-generierter Desinformation zu begegnen, bedarf es nicht nur gesellschaftlicher, sondern auch robuster technischer Strategien. Der technologische Wettlauf erfordert Mechanismen, die solche Systeme auf ihre Schwachstellen prüfen, bevor diese von böswilligen Akteurinnen und Akteuren ausgenutzt werden können.
Ein mögliches Konzept in diesem Bereich ist das sogenannte «Red-Teaming». Dabei handelt es sich um eine Methode, bei der Systeme gezielt angegriffen werden, um Schwachstellen aufzudecken. Zum Beispiel können Forschende und Zivilgesellschaft prüfen, ob und wie Sprachmodelle dazu gebracht werden können, Desinformationen, Hassrede oder manipulative Kampagnen zu generieren. Durch das Aufdecken dieser Schwachstellen können die Entwicklerinnen und Entwickler entsprechende Sicherheitsvorkehrungen in die Modelle integrieren.
Darüber hinaus wird die Konzentration von Daten-Macht kritisch diskutiert. Eine Dominanz weniger Technologiegiganten könnte dazu führen, dass nur eine Handvoll Unternehmen entscheidet, welche Informationen als wahr oder falsch klassifiziert werden. Hier wird argumentiert, dass offene Protokolle ein Mittel sein können, um solche sog. KI-Monopole zu verhindern. Offene Standards und Dezentralisierung fördern die Transparenz und ermöglichen es einer breiteren Gemeinschaft von Forschenden und Entwickelnden, sog. KI-Tools zur Erkennung von Desinformation zu bauen, anstatt sich auf proprietäre, geschlossene Systeme verlassen zu müssen.
Synthese: Der Mensch im Zentrum der Technik
Es wird deutlich: Technologie darf niemals isoliert betrachtet werden. Der ständige Fokus muss auf der menschlichen Erfahrung liegen.
Die Komplexität von datengenerierten Deepfakes, automatisierten Bot-Netzwerken und algorithmischer Voreingenommenheit ist für den Laien oft nicht greifbar. Daher ist es entscheidend, die Mechanismen der Desinformation in verständliche Narrative zu übersetzen, ohne die technologische Genauigkeit zu verlieren. Wir müssen dauerhafte Konzepte vermitteln: Eine Falschinformation bleibt eine Falschinformation, unabhängig davon, ob sie von einem menschlichen Troll oder einem hochkomplexen Sprachmodell generiert wurde.
Das Verständnis für Quellenkritik, die Motivation hinter der Informationsverbreitung und das Bewusstsein für die eigene emotionale Reaktion auf Nachrichten sind dementsprechend Fähigkeiten, die auch im Horizont zunehmender Technologisierung nicht «veralten».
Wir stehen an einem kritischen Wendepunkt
Sog. Künstliche Intelligenz wird die Art und Weise, wie wir kommunizieren, enorm verändern. Die Gefahr, dass automatisierte Desinformation das Fundament des öffentlichen Wissens erodiert, ist real. Doch wir sind dieser Entwicklung nicht schutzlos ausgeliefert.
Die Lösung liegt in einem mehrdimensionalen Ansatz: Wir benötigen Plattformen, die ihre Rolle als Wächter des Internets verantwortungsvoll und transparent wahrnehmen. Wir brauchen technische Prüfverfahren, die dem öffentlichen Interesse dienen. Und wir benötigen vor allem partizipative Formate, in denen Bürgerinnen und Bürger aktiv an der Entwicklung von Gegenstrategien mitwirken.
Nur wenn technologische Innovation, regulatorische Weitsicht und bürgerschaftliches Engagement Hand in Hand gehen, kann die Integrität des öffentlichen Diskurses gewahrt und die Demokratie im Zeitalter sog. Künstlichen Intelligenz geschützt werden.
Ausgewählt für dich
Alles beginnt hier
Manche Bücher geben keine einfachen Antworten dafür stellen sie die richtigen Fragen. In jeder Ausgabe empfehlen wir ausgewählte Werke, die unser jeweiliges Schwerpunktthema vertiefen und neue Zusammenhänge aufzeigen. Viel Vergnügen!
Hassrede, Framing und generative KI prägen öffentliche Debatten zunehmend.
Der Sammelband vereint Beiträge aus der Medienethik und zeigt, wie Sprache, digitale Kommunikation und KI demokratische Verständigungsprozesse beeinflussen.
Wie verändern Algorithmen und digitale Plattformen unsere politische Öffentlichkeit?
Lukas Kaelin untersucht, wie algorithmische Filterung den öffentlichen Diskurs verändert und welche Folgen dies für Demokratie, Meinungsbildung und unser Verständnis von Öffentlichkeit hat.
Rund um den Globus
🎧 Podcast:
Fake News oder echte Gefahr? Die Wahrheit hinter Desinformation
Der Soziologe Nils Kumkar spricht in der SRF Sternstunde Philosophie über die Mechanismen von Desinformation, ihre tatsächliche Wirkung auf unsere Gesellschaft und die Frage, wie wir in einer digitalen Welt Orientierung finden können. Eine differenzierte und spannende Einordnung des Themas.
📰 Artikel:
Kodex für Medienbranche: KI-Einsatz in Medien soll transparenter werden - SRF
Die Schweizer Medienbranche hat erstmals einen gemeinsamen KI-Kodex verabschiedet. Er legt Grundsätze für den verantwortungsvollen Einsatz von KI fest und fordert unter anderem Transparenz sowie die Kennzeichnung vollständig KI-generierter Inhalte. Der Beitrag zeigt, wie Medien das Vertrauen ihres Publikums auch im Zeitalter künstlicher Intelligenz stärken wollen.
Trolling, memes and deepfakes: How AI is thickening the fog of war - Reuters Institute
Deepfakes, Memes und KI-gestützte Desinformation verändern die Informationslandschaft in Konflikten. Der Beitrag beleuchtet die Auswirkungen auf die Kriegsberichterstattung und das Vertrauen in digitale Informationen
Zum Artikel
Evaluating the ethics of autonomous systems - MIT News
Ein neues Bewertungsverfahren soll helfen, die ethische Ausrichtung autonomer KI-Systeme zu überprüfen. Dabei werden objektive Leistungsdaten mit menschlichen Wertvorstellungen kombiniert, um kritische Entscheidungssituationen sichtbar zu machen.
🎬 Dokumentation:
Achtung KI-Fake – was können wir noch glauben? - ZDF Terra X mit Harald Lesch
Täuschend echte KI-Videos und Deepfakes verändern unsere Informationswelt rasant. Die Dokumentation zeigt, wie KI-generierte Inhalte entstehen, weshalb selbst Fachleute Fälschungen immer schwieriger erkennen und welche Folgen das für Gesellschaft und Demokratie hat. Eine spannende und verständliche Einordnung für alle, die besser verstehen möchten, wie sich unser Umgang mit Informationen verändert.
Zur Dokumentation