Detektion von Falschinformationen mittels Artificial Intelligence

Description

Die Projektidee defalsif-AI adressiert im Kontext der Künstlichen Intelligenz (KI) in der zivilen Sicherheitsforschung insbesondere politisch motivierte Desinformation, welche politische sowie staatlichen Institutionen unserer Demokratie – z.B. Wahlbeeinflussung – und somit letztlich das Vertrauen in politische und staatliche Institutionen schwächen bzw. bedrohen. Das Projekt ist daher auch im Bereich des „Schutz kritischer Infrastrukturen“ – folglich Demokratie als kritische Infrastruktur – angesiedelt. Die inhaltlichen Forschungsschwerpunkte liegen dabei auf audiovisueller Medienforensik, Textanalyse und deren multi-modaler Fusion unter Zuhilfenahme von Methoden der Künstlichen Intelligenz (KI). Ein für das defalsif-AI Projekt vorgeschlagenes Beispielszenario ist die Verifizierung von Inhalten einzelner Webpages – wie z.B. die Inhalte eines “Nachrichtenartikels”. Dieses Szenario ist – in abgewandelter Form – auch repräsentativ für andere Anwendungsfälle (z.B. Auswertung von Social Media Feeds). Unser Ziel ist dem Benutzer – sowohl staatliche Endanwender (Behörden, Ministerien) als auch Vertreter von Nachrichten-/Medienorganisationen – ein Werkzeug für die Analyse von digitalen Inhalten im Internet zu geben. Diese Analyse ermöglicht eine erste Beurteilung der Inhalte (Text, Bild, Video, Audio) auf Glaubwürdigkeit/Authentizität und liefert so Grundlagen für weitere Handlungsempfehlungen. Insbesondere die automatisierte Analyse der Inhalte auf Authentizität – in Bezug auf das Erkennen gefälschter bzw. manipulierter Medien-Artefakte (breite, öffentliche Desinformation) – stellt hier eine große Herausforderung dar und wird daher besonders behandelt. Dabei werden die Analyseverfahren anhand Ihrer Komplexität von niedrig bis hoch unterteilt. Mit diesem Ansatz ist sichergestellt, dass Analyseergebnisse erklärbar sind und somit für den Nutzer richtig eingeordnet werden können. Ein Beispiel für ein Verifikationswerkzeug niedriger Komplexität wäre die Metadatenanalyse eines Bildes (Aufnahme-/Änderungsdatum, Geräteinformation, Geo-Information, …), oder die Auswertung der Header-Information eines HTML-Dokuments (z.B. Länderinformation). Im mittleren Komplexitätsbereich wäre die Qualitäts-Analyse erster charakteristischer Eigenschaften des Inhalts angesiedelt – z.B. passt Speicherverfahren zur Geräteinformation, Sensorrauschen einer Bild oder Ton Aufzeichnung, etc. Im höchsten Komplexitätsbereich wären KI-gestützte Analyseverfahren angesiedelt, welche im besonderen Maß auf inhaltsspezifische Merkmale der unterschiedlichen digitalen Artefakte eingehen. Beispiele sind u.a. die Erkennung von sogenannten “Deep Fake” Videos (welche selbst mittels Methoden der KI erzeugt werden), sich wiederholende Bildsequenzen, Analyse der geschürten Emotionen welche mit einem Text transportiert werden, ... etc. Alle der obig beschriebenen Verfahren unterschiedlicher Komplexität liefern hierbei – für sich – nachvollziehbare Ergebnisse welche nicht (!) nur die Authentizität des untersuchten Mediums in der Kategorie „verdächtig” oder „unverdächtig” einordnen. Die Einzelergebnisse aller Analyseverfahren – aller obig genannten Komplexitätsstufen – werden schlussendlich in einer eigenen Fusionskomponente zusammengeführt. Insbesondere diese Komponente besteht zum Teil aus einem durch den Endanwender konfigurierbaren Regelwerk, und zum anderen Teil aus adaptierbaren und zuschaltbaren KI-Fusionierungslogiken. Im Projekt wird auf die jeweiligen Arbeitsprozesse der Endanwender und die Einsetzbarkeit im täglichen Arbeitsumfeld Rücksicht genommen. Abgerundet wird das Projekt defalsif-AI mit einer begleitenden Studie zu ethischen und gesellschaftlichen Auswirkungen von Desinformation und Betrachtung der diesbezüglichen rechtlichen Situation (z.B. welche rechtlichen Maßnahmen eröffnen sich aus den Analyseergebnissen der unterschiedlichen Verfahren zur Entfernung der Inhalte aus dem Internet).

Details

Duration 01/10/2020 - 30/09/2022
Funding FFG
Program
Department

Department for E-Governance and Administration

Center for Infrastructural Security

Principle investigator for the project (Danube University Krems) Ass. Prof. Mag. Dr. Walter Seböck, MAS MSc
Back to top

 

To Glossary

This website uses cookies to improve your user experience and for analytical purposes for optimizing our systems, as well Google Maps for the use of depicting maps. By clicking on „OK" or continuing to browse the site, you are agreeing to the use of cookies and Google Maps. More information concerning privacy policy and data protection official.

OK