Detektion von Falschinformationen mittels Artificial Intelligence

Beschreibung

Die Projektidee defalsif-AI adressiert im Kontext der Künstlichen Intelligenz (KI) in der zivilen Sicherheitsforschung insbesondere politisch motivierte Desinformation, welche politische sowie staatlichen Institutionen unserer Demokratie – z.B. Wahlbeeinflussung – und somit letztlich das Vertrauen in politische und staatliche Institutionen schwächen bzw. bedrohen. Das Projekt ist daher auch im Bereich des „Schutz kritischer Infrastrukturen“ – folglich Demokratie als kritische Infrastruktur – angesiedelt. Die inhaltlichen Forschungsschwerpunkte liegen dabei auf audiovisueller Medienforensik, Textanalyse und deren multi-modaler Fusion unter Zuhilfenahme von Methoden der Künstlichen Intelligenz (KI). Ein für das defalsif-AI Projekt vorgeschlagenes Beispielszenario ist die Verifizierung von Inhalten einzelner Webpages – wie z.B. die Inhalte eines “Nachrichtenartikels”. Dieses Szenario ist – in abgewandelter Form – auch repräsentativ für andere Anwendungsfälle (z.B. Auswertung von Social Media Feeds). Unser Ziel ist dem Benutzer – sowohl staatliche Endanwender (Behörden, Ministerien) als auch Vertreter von Nachrichten-/Medienorganisationen – ein Werkzeug für die Analyse von digitalen Inhalten im Internet zu geben. Diese Analyse ermöglicht eine erste Beurteilung der Inhalte (Text, Bild, Video, Audio) auf Glaubwürdigkeit/Authentizität und liefert so Grundlagen für weitere Handlungsempfehlungen. Insbesondere die automatisierte Analyse der Inhalte auf Authentizität – in Bezug auf das Erkennen gefälschter bzw. manipulierter Medien-Artefakte (breite, öffentliche Desinformation) – stellt hier eine große Herausforderung dar und wird daher besonders behandelt. Dabei werden die Analyseverfahren anhand Ihrer Komplexität von niedrig bis hoch unterteilt. Mit diesem Ansatz ist sichergestellt, dass Analyseergebnisse erklärbar sind und somit für den Nutzer richtig eingeordnet werden können. Ein Beispiel für ein Verifikationswerkzeug niedriger Komplexität wäre die Metadatenanalyse eines Bildes (Aufnahme-/Änderungsdatum, Geräteinformation, Geo-Information, …), oder die Auswertung der Header-Information eines HTML-Dokuments (z.B. Länderinformation). Im mittleren Komplexitätsbereich wäre die Qualitäts-Analyse erster charakteristischer Eigenschaften des Inhalts angesiedelt – z.B. passt Speicherverfahren zur Geräteinformation, Sensorrauschen einer Bild oder Ton Aufzeichnung, etc. Im höchsten Komplexitätsbereich wären KI-gestützte Analyseverfahren angesiedelt, welche im besonderen Maß auf inhaltsspezifische Merkmale der unterschiedlichen digitalen Artefakte eingehen. Beispiele sind u.a. die Erkennung von sogenannten “Deep Fake” Videos (welche selbst mittels Methoden der KI erzeugt werden), sich wiederholende Bildsequenzen, Analyse der geschürten Emotionen welche mit einem Text transportiert werden, ... etc. Alle der obig beschriebenen Verfahren unterschiedlicher Komplexität liefern hierbei – für sich – nachvollziehbare Ergebnisse welche nicht (!) nur die Authentizität des untersuchten Mediums in der Kategorie „verdächtig” oder „unverdächtig” einordnen. Die Einzelergebnisse aller Analyseverfahren – aller obig genannten Komplexitätsstufen – werden schlussendlich in einer eigenen Fusionskomponente zusammengeführt. Insbesondere diese Komponente besteht zum Teil aus einem durch den Endanwender konfigurierbaren Regelwerk, und zum anderen Teil aus adaptierbaren und zuschaltbaren KI-Fusionierungslogiken. Im Projekt wird auf die jeweiligen Arbeitsprozesse der Endanwender und die Einsetzbarkeit im täglichen Arbeitsumfeld Rücksicht genommen. Abgerundet wird das Projekt defalsif-AI mit einer begleitenden Studie zu ethischen und gesellschaftlichen Auswirkungen von Desinformation und Betrachtung der diesbezüglichen rechtlichen Situation (z.B. welche rechtlichen Maßnahmen eröffnen sich aus den Analyseergebnissen der unterschiedlichen Verfahren zur Entfernung der Inhalte aus dem Internet).

Details

Projektzeitraum 01.10.2020 - 30.09.2022
Fördergeber FFG
Förderprogramm
Department

Department für E-Governance in Wirtschaft und Verwaltung

Zentrum für Infrastrukturelle Sicherheit

Projekt­verantwortung (Donau-Universität Krems) Ass. Prof. Mag. Dr. Walter Seböck, MAS MSc
Zum Anfang der Seite

 

Zum Glossar

Diese Website verwendet Cookies zur Verbesserung Ihrer Nutzererfahrung und für analytische Zwecke zur Optimierung unserer Systeme, sowie Google Maps zur Darstellung von Plänen. Indem Sie auf „OK" klicken bzw. die Website weiter verwenden, stimmen Sie der Cookie- und Google Maps Nutzung zu. Mehr Information zum Datenschutz.

OK