Desinformation nimmt in der heutigen Medienlandschaft einen immer größeren Raum ein und stellt damit eine zunehmende Bedrohung für die Gesellschaft dar. Im Forschungsprojekt „DesinFact“ untersuchen Forscher_innen, wie Desinformation automatisch erkannt werden kann und welche Lösung es für verbleibende Probleme gibt.

Von Sophie Hanak

„Desinformation ist kein neues Phänomen – Propaganda und Fehlinformationen gab es schon immer, bis zurück zu Ramses II. Doch die Geschwindigkeit, mit der sich Falschinformationen heute über digitale Medien und soziale Netzwerke verbreiten, und die Möglichkeiten zur Täuschung durch Künstliche Intelligenz sind enorm gestiegen“, erzählt Walter Seböck, Leiter des Departments für Sicherheitsforschung an der Universität für Weiterbildung Krems. Im Rahmen des Kooperationsprojekts „DesinFact“, das gemeinsam mit dem Austrian Institute of Technology (AIT) durchgeführt wird, widmet sich das Team der Früherkennung von Desinformationstrends. Das Projekt „DesinFact“ wird im Rahmen des Programms KIRAS durch das Bundesministerium für Finanzen gefördert bzw. finanziert und von der Österreichischen Forschungsförderungsgesellschaft abgewickelt.

Wie Desinformation entsteht und sich verbreitet

Der Forschungsschwerpunkt liegt darauf, wie sich Desinformation ausbreitet und ob und wie Künstliche Intelligenz als Werkzeug eingesetzt werden kann und soll, um Desinformation sowie Hate Speech zu erkennen. Zu Beginn analysieren die Wissenschaftler_innen die sogenannten Desinformationsketten. „Wir untersuchen, wo sie ihren Ursprung haben, wie sie sich im Netz verbreiten und welche Merkmale auf fragwürdige Kampagnen hinweisen“, erklärt Seböck. Mithilfe von Modellierungen sollen schließlich Szenarien entwickelt werden, um Desinformation als solche zu erkennen und damit in weiterer Folge die Verbreitung eindämmen zu können – eine Aufgabe, die Künstliche Intelligenz dank ihrer Fähigkeit zur Mustererkennung besonders gut bewältigen kann.

Das Ziel ist es, ein Tool zu entwickeln, das Nutzer_innen dabei hilft, kursierende Desinformation zu erkennen bzw. besser einschätzen zu können. Hierbei wurde auch die österreichische Bevölkerung befragt, um ihre Erfahrungen zu Desinformation und Künstlicher Intelligenz zu erheben. Doch warum verbreiten sich manche Informationen rasant, während andere kaum Beachtung finden? „Zum einen, weil eine persönliche Betroffenheit besteht, zum anderen, weil manche Falschinformationen oder Lügen einfach zu interessant sind, um sie nicht zu glauben. Oft bieten sie einfache Erklärungen für komplexe Sachverhalte“, so Seböck.

Technische, ethische und gesellschaftliche Herausforderungen

DesinFact arbeitet nicht mit öffentlich zugänglichen KI-Modellen, sondern mit eigens entwickelten Algorithmen. Hierbei legen die Forscher_innen neben den technischen Herausforderungen großen Wert auf rechtliche und ethische Leitlinien. „Die Wahrheit kann die Maschine nicht validieren – das müssen wir Menschen tun. Wahrheit ist auch immer eine Frage der Perspektive“, betont Seböck. Diese Erkenntnis prägt die ethischen Grundsätze des Projekts. „Gerade in der Technologieentwicklung sind Ethik und Rechtsstaatlichkeit für uns und unsere Partner, wie etwa Bundeskanzleramt und Bundesministerium für Landesverteidigung, unverzichtbare Grundpfeiler“, so Seböck.

Projektinfo

 

Titel: Desinformations-Früherkennung von gefährdenden online Nachrichten-Trends (Acronym: DesinFact)

Förderungsschiene: Programm KIRAS

Abwicklung: FFG

Projektlaufzeit: 2024 – 2025

Mehr zum Projekt: www.ffg.at/vorlagen-berichtslegung-kiras

Medienkompetenz als Schlüssel

Sind ältere Menschen, die ohne digitale Medien aufgewachsen sind, heute im Vorteil? Auch früher entsprach nicht alles der Wahrheit, was in der Zeitung stand – doch Fotos und Videos galten oft als glaubwürdige Belege. Heute ist es kaum noch möglich, die Echtheit von Bildern, Tönen oder Texten eindeutig zu erkennen. Diese Unsicherheit kann dazu führen, dass Kinder, die mit digitalen Medien aufwachsen, von Anfang an lernen kritisch zu hinterfragen, ob etwas wahr oder falsch ist. Die Mehrheit der Jugendlichen konsumieren Medien heute fast ausschließlich über das Smartphone und soziale Netzwerke, während klassische Medien mit redaktioneller Kontrolle kaum noch genutzt werden. Dadurch fehlt oft die differenzierte Auseinandersetzung mit komplexen Themen. Deshalb ist es umso wichtiger, Medienkompetenz bereits in der Schule oder sogar im Kindergarten zu fördern – ein Bereich, in dem es aktuell noch Nachholbedarf gibt.

Österreich im internationalen Vergleich

Im internationalen Vergleich ist Österreich hinsichtlich der Forschung zur Eindämmung der Desinformation gut aufgestellt. Fachhochschulen, Universitäten und außeruniversitären Forschungsinstitute arbeiten eng mit Behörden und der Wirtschaft an innovativen Projekten. Allerdings entsteht durch begrenzte Budgets ein Nachteil gegenüber Ländern, die deutlich mehr in Forschung investieren können. „Ich denke, dass Österreich und Europa angesichts der globalen Entwicklungen zunehmend auf eigenständige Systeme setzen werden. Unsere Forschungseinrichtungen und Universitäten sind hervorragend, und gerade im Bereich der Desinformation sind wir international gut positioniert“, ist Seböck überzeugt.

WALTER SEBÖCK

Assoz. Prof. Mag. Dr. Walter Seböck, MAS MSc ist Leiter des Departments für Sicherheitsforschung der Universität für Weiterbildung Krems

LINK

Department für Sicherheitsforschung

Artikel dieser Ausgabe

Sicherheit und Risiko: Treiber oder Blockade für Innovation?

In einer Welt rasanter technologischer Entwicklungen und globaler Vernetzung sind Sicherheit und Risiko keine Gegensätze, sondern zwei untrennbare Seiten derselben Medaille. Die Innovationsfähigkeit von Unternehmen wird davon bestimmt, wie sie Sicherheit als Basis und Risiko als Motor für Fortschritt und Transformation nutzen.

Von Menschen, Wölfen und dem guten Leben

Wie lässt sich eine Gesellschaft gestalten, in der Freiheit und Sicherheit einander nicht ausschließen, sondern stärken? Eine Spurensuche zwischen Philosophie, Politik und Ökonomie.

Mut zur Freiheit

Der Politikwissenschafter und IT-Experte Walter Seböck leitet das Department für Sicherheitsforschung der Universität für Weiterbildung Krems. Ihn treibt die Frage um, wie ein ethischer Umgang mit neuen Technologien gelingen kann.

Wenn viel auf dem Spiel steht

Die Spieltheorie ist ein abstraktes mathematisches Modell, um Entscheidungen in Konfliktsituationen zu durchdenken. Ob man sich mit ihr auskennt, entscheidet im Wirtschaftsleben oft über mehrstellige Millionenbeträge.

Trügerische Sicherheit

Cyberattacken werden häufiger und gefährlicher, doch Unternehmen sind nicht ausreichend darauf vorbereitet. Wie sieht eine professionelle Abwehr aus?

Sicherheit beginnt mit Vertrauen

Psychologische Sicherheit reicht weit über das Fehlen von Bedrohung hinaus. Sie beschreibt ein subjektives Empfinden, das im Zusammenspiel individueller Erfahrungen und gesellschaftlicher Rahmenbedingungen entsteht - mit Vertrauen als entscheidendem Faktor.

Das Rennen ist offen

ChatGPT und Deepseek sind in aller Munde, auch immer mehr Unternehmen setzen auf KI. Doch wie vertrauenswürdig und sicher sind diese Modelle?

Am stärksten im Verteidigungsmodus

Rechtsextremist_innen und islamistische Influencer_innen teilen sich dasselbe Feindbild: die liberale Demokratie. Kluge Worte gegen ihre starken Narrative helfen wenig. Es braucht eine bessere Gegenerzählung.

Das demografische Feld bestellen

Um den Wohlstand des Landes abzusichern, ist Zuwanderung erforderlich. Dabei bleiben Migration und vor allem die Integration Risikofaktoren. Gelingt deren Steuerung, profitiert das Land, schlägt Integration fehl, sind Verwerfungen die Folge.

Gesellschaft und Forschung einander näher bringen

Die Digitalisierung überschwemmt uns im öffentlichen wie im privaten Bereich mit einer Flut an Informationen. Das eröffnet Chancen, aber auch Risiken. Vor allem Fragen der Sicherheit und Wahrheit müssen völlig neu betrachtet werden. Und wenn es nach der Sicherheitsforscherin Bettina Pospisil geht, mit Transparenz und möglichst viel Bürger_innenbeteiligung.

Der Abrüstungsexperte

Sein gesamtes bisheriges Berufsleben widmet Alumnus Dieter Rothbacher schon dem Schutz vor chemischen, biologischen, radiologischen und nuklearen Gefahren – beim österreichischen Bundesheer, in zahlreichen internationalen Organisationen und im eigenen Unternehmen.

Tags