Call: KI zur Bekämpfung von Desinformation

Logo
Programm
Akronym HE-CL4-HUMAN
Art des Fonds Direkte Mittelverwaltung
Beschreibung zu Programm
"Horizon Europe - Cluster 4 - Ziel 6: Eine menschenzentrierte und ethische Entwicklung von digitalen und industriellen Technologien"

Dieses Ziel wird die folgenden strategischen Hauptausrichtungen, wie im Strategieplan dargelegt, direkt unterstützen:

  • KSO D, Schaffung einer widerstandsfähigeren, integrativeren und demokratischeren europäischen Gesellschaft, die auf Bedrohungen und Katastrophen vorbereitet ist und darauf reagieren kann, die Ungleichheiten beseitigt und eine hochwertige Gesundheitsversorgung bereitstellt sowie alle Bürgerinnen und Bürger befähigt, im Rahmen des grünen und digitalen Wandels zu handeln.

Vorschläge für Themen unter diesem Ziel sollten einen glaubwürdigen Weg aufzeigen, der zu den folgenden erwarteten Auswirkungen beiträgt:

  • Eine auf den Menschen ausgerichtete und ethisch vertretbare Entwicklung digitaler und industrieller Technologien durch ein zweiseitiges Engagement bei der Entwicklung von Technologien, die Befähigung von Endnutzern und Arbeitnehmern und die Unterstützung sozialer Innovationen.

Während Europa die Führung beim grünen und digitalen Wandel übernimmt, sind Arbeitnehmer, Regionen und Gesellschaften mit extrem schnellen Veränderungen konfrontiert und werden von diesen Veränderungen unterschiedlich betroffen sein. Die rasche Übernahme neuer Technologien bietet ein immenses Potenzial für einen höheren Lebensstandard, sicherere Mobilität, bessere Gesundheitsversorgung, neue Arbeitsplätze oder die Personalisierung öffentlicher Dienstleistungen. Gleichzeitig birgt sie aber auch Risiken wie Qualifikationsdefizite, digitale Kluft, Kundenbindung oder schwerwiegende Verstöße gegen Sicherheit und Datenschutz.

Je mehr sich Europa auf den Weg zu einer umweltfreundlicheren, digitalen und widerstandsfähigeren Wirtschaft und Gesellschaft macht, desto wichtiger wird es, die Fähigkeiten, das Wissen und die Kompetenzen zu verbessern und anzupassen. Die Entwicklungen im Bereich der digitalen Technologien und der Grundlagentechnologien haben das Potenzial, die soziale Eingliederung zu verbessern, können als Grundlage für Weiterbildungsprogramme dienen und eine wechselseitige Auseinandersetzung mit der Gesellschaft im Hinblick auf die Entwicklung von Technologien gewährleisten.

Nach den Enthüllungen über die Ausbeutung persönlicher Daten, groß angelegten Cybersecurity- und Datenschutzverletzungen und dem wachsenden Bewusstsein für Online-Desinformation ist die Frage des Vertrauens bei der Nutzung von Technologien zentral geworden. Wie im Weißbuch über künstliche Intelligenz (KOM(2020)65) dargelegt, erfordert das Vertrauen in KI-Technologien vor allem eine Verbesserung der Transparenz (Erklärbarkeit, erwartete Leistungsniveaus). Für das Internet erfordert die Stärkung des Vertrauens neue Werkzeuge und Dienste, um sicherzustellen, dass die Datenschutzgrundverordnung für die Endnutzer Realität wird.

Es ist auch eine Chance für Europa, wieder auf dem Markt für Unterhaltungselektronik präsent zu sein, indem neue interaktive Anwendungen in verschiedenen Bereichen mit Lösungen entwickelt werden, die den europäischen Werten und Anforderungen in Bezug auf Datenschutz und Sicherheit entsprechen. Die COVID-19-Krise hat auch gezeigt, wie wichtig Fernunterricht und innovatives Lernen für die Gesellschaft sind.

Die Maßnahmen im Rahmen dieses Ziels werden die EU-Ziele der Integration unterstützen, indem sie einen auf den Menschen ausgerichteten Ansatz bei der Technologieentwicklung fördern, der mit den europäischen sozialen und ethischen Werten sowie der Nachhaltigkeit im Einklang steht. Diese Maßnahmen werden ferner dazu beitragen, die Herausforderungen zu bewältigen, mit denen die europäische Industrie konfrontiert ist, und die Schaffung nachhaltiger, hochwertiger Arbeitsplätze unterstützen, indem sie auf das Missverhältnis zwischen Qualifikationsangebot und -nachfrage, die Notwendigkeit der Befähigung der Arbeitnehmer und ethische Erwägungen im Zusammenhang mit dem technologischen Fortschritt ausgerichtet sind.

Die Maßnahmen sollten der Offenheit der Lösungen und Ergebnisse sowie der Transparenz des Forschungsprozesses besondere Aufmerksamkeit widmen. Um die Vertrauenswürdigkeit, das öffentliche Bewusstsein und die Unterstützung sowie die breite Übernahme durch die Nutzergemeinschaften zum Nutzen der Gesellschaft zu gewährleisten, sollten die Maßnahmen die höchsten Standards für Transparenz und Offenheit fördern. Die Maßnahmen sollten sicherstellen, dass die Prozesse und Ergebnisse von Forschung und Innovation mit den Bedürfnissen, Werten und Erwartungen der Gesellschaft übereinstimmen, im Einklang mit verantwortungsvoller Forschung und Innovation.

Dieses Ziel ist in die folgenden Rubriken gegliedert, die Themen mit ähnlichen Ergebnissen zusammenfassen, um eine gemeinsame Herausforderung anzugehen:

Führungsrolle in der KI auf der Grundlage von Vertrauen

Ziel dieser Rubrik ist es, die Autonomie Europas im Bereich der KI zu gewährleisten und eine Führungsrolle bei der Erforschung, Entwicklung und dem Einsatz von Technologien von Weltrang zu übernehmen, die für den Menschen individuell, organisatorisch und gesellschaftlich von Nutzen sind und den europäischen Werten entsprechen, wie z. B. den Prinzipien, die sich in unseren Grundrechten und der ökologischen Nachhaltigkeit widerspiegeln. Es müssen Technologien entwickelt werden, denen die Industrie und die Bürger vertrauen, so dass sie in einem breiten Spektrum von Anwendungen und Industriezweigen eingesetzt werden können. Vertrauenswürdige KI ist besonders wichtig in Anwendungen wie (aber nicht nur) im Gesundheitswesen oder in verschiedenen kritischen Infrastrukturen wie Energie und Transport.

Einige Themen dieser Rubrik sind unter der co-programmierten Partnerschaft 'AI, Data and Robotics' zu finden.

Vorschläge sollten mit dem Europäischen Institut für Innovation und Technologie (EIT) und seinen Wissens- und Innovationsgemeinschaften (KICs), insbesondere dem EIT Digital, verknüpft werden.

EIT Digital spielt eine Rolle bei der Gestaltung von Technologien und Innovationen, die für die Menschen arbeiten. Mindestens zwei seiner Fokusbereiche, Digital Wellbeing und Digital Cities, adressieren direkt Themen wie ethische künstliche Intelligenz, prädiktive Analytik oder Augmented und Virtual Reality, die für diese Bereiche relevant sind. Die Lösungen werden von der zunehmenden Bereitschaft der Bürger profitieren, an der Sharing Economy teilzunehmen. EIT Digital verbessert beispielsweise durch Projekte mit Städten das Engagement und die Inklusion der Bürger und der Besucher, indem Daten zunehmend organisiert und offengelegt werden, vor allem in Echtzeit und zusammen mit Analytics und Machine Learning. Augmented und Virtual Reality der Städte sind eine weitere Facette, um Stadtdaten aus der Vergangenheit, Gegenwart oder Zukunft zum Nutzen der Bürger freizulegen oder zu simulieren.

Ein Internet des Vertrauens

Die Frage des Vertrauens in das Internet ist nach den Enthüllungen über die Ausbeutung persönlicher Daten, groß angelegten Cybersecurity- und Datenverletzungen und dem wachsenden Bewusstsein für Online-Desinformation zentral geworden. Eine Umfrage aus dem Jahr 2019[[]] zeigt, dass die Hälfte der weltweiten Internetnutzer sich mehr Sorgen um ihre Online-Privatsphäre macht als noch ein Jahr zuvor. Das Misstrauen in das Internet veranlasst die Menschen dazu, ihr Online-Verhalten zu ändern, indem sie zum Beispiel weniger persönliche Informationen preisgeben. Die Nutzer äußern auch ein zunehmendes Misstrauen gegenüber Social-Media-Plattformen.

Ziel dieser Rubrik ist es, ein vertrauenswürdiges digitales Umfeld zu entwickeln, das auf einem widerstandsfähigeren, nachhaltigeren und dezentralisierten Internet aufbaut, den Endnutzern mehr Kontrolle über ihre Daten und ihre digitale Identität zu geben und neue soziale und geschäftliche Modelle zu ermöglichen, die europäische Werte respektieren.

eXtended Reality (XR)

Aufgrund seiner geringen Präsenz im Bereich der Unterhaltungselektronik ist Europa in diesem Bereich zunehmend von externen Anbietern abhängig. Dies wirft Bedenken hinsichtlich seiner digitalen Souveränität in entscheidenden Bereichen wie digitalen Interaktionsdiensten auf, die von einer wachsenden Zahl europäischer Nutzer und Branchen angenommen werden. Die COVID-19-Krise hat gezeigt, wie wichtig Fernunterricht und innovatives Lernen für die Gesellschaft, unsere Kinder, ihre Eltern und ihre Lehrer sind, um soziale und pädagogische Verbindungen unter schwierigen Umständen aufrechtzuerhalten. Aufstrebende Technologien wie virtuelle Realität, eXtended Reality oder immersive Umgebungen bieten zahlreiche Möglichkeiten für personalisiertes, innovatives, effizientes und integratives Lernen, für Lernende jeden Alters, Geschlechts und Zustands

Das Ziel dieser Rubrik ist es, eine industrielle Führungsrolle bei Technologien der eXtended Reality und immersiven Umgebungen zu erlangen und gleichzeitig die europäischen Werte des Datenschutzes, der Ethik und der Inklusion zu gewährleisten. Außerdem soll die digitale Transformation der Bildung insbesondere durch diese Technologien unterstützt werden.

Systemische Ansätze, um das Beste aus den Technologien innerhalb der Gesellschaft und der Industrie zu machen.

In dieser Rubrik werden verschiedene systemische Ansätze gefördert, um die Kreativität zu fördern und das Beste aus den Technologien zu machen, die anderswo in Gesellschaft und Industrie entwickelt werden. Dazu gehören das Testen von Ideen in lokalen Gemeinschaften, die Unterstützung von IP, Normung und Austausch zwischen Industrie und Hochschulen, kunstorientiertes Design und die Bewertung komplexer sozioökonomischer Systeme. Ergänzt werden diese Maßnahmen durch die Unterstützung eines Netzwerks von Nationalen Kontaktstellen (NKS), wobei ein besonderer Schwerpunkt auf der Einbindung neuer Akteure liegt.

Über die F&I-Investitionen hinausgehende Aktivitäten sind erforderlich, um die erwarteten Auswirkungen zu erzielen: Erprobung, Experimentieren, Demonstration und Unterstützung bei der Übernahme der im Rahmen des Programms "Digitales Europa" zur Verfügung gestellten Kapazitäten, Infrastrukturen und europäischen Zentren für digitale Innovation; Weiterentwicklung von Fähigkeiten und Kompetenzen über das Europäische Innovations- und Technologieinstitut, insbesondere EIT Digital und EIT Manufacturing; Upscaling von Schulungen über den Europäischen Sozialfonds +; Nutzung von Finanzinstrumenten im Rahmen des InvestEU-Fonds für die weitere Kommerzialisierung von F&I-Ergebnissen; und Verknüpfung mit der thematischen Plattform für intelligente Spezialisierung zur Modernisierung der Industrie

Erwartete Wirkung

Vorschläge für Themen im Rahmen dieses Ziels sollten einen glaubwürdigen Weg aufzeigen, um zu einer menschenzentrierten und ethischen Entwicklung digitaler und industrieller Technologien beizutragen, und insbesondere zu einer oder mehreren der folgenden Wirkungen:

  • Mehr Inklusion durch die Unterstützung eines auf den Menschen ausgerichteten Ansatzes bei der Technologieentwicklung, der mit den sozialen und ethischen Werten Europas sowie mit der Nachhaltigkeit in Einklang steht;
  • Nachhaltige, qualitativ hochwertige Arbeitsplätze, indem auf Qualifikationsdefizite, die Notwendigkeit der Befähigung von Arbeitnehmern und ethische Erwägungen in Bezug auf den technologischen Fortschritt eingegangen wird; [[2019 CIGI-Ipsos Global Survey on Internet Security and Trust]].
Call
KI zur Bekämpfung von Desinformation
Beschreibung zu Call
"KI zur Bekämpfung von Desinformation"

Erwartetes Ergebnis

Die Ergebnisse des Vorschlags sollen zu einem der folgenden erwarteten Ergebnisse beitragen:

  • Fortgeschrittene KI-Lösungen gegen fortgeschrittene Desinformationstechniken für Medienschaffende.
  • Fortgeschrittene KI-Lösungen gegen Desinformation für Bürger.

Umfang:

Der Medienaktionsplan wurde um drei Bereiche herum entwickelt: Wiederherstellung, Transformation sowie Befähigung und Ermächtigung. Forschung und Innovation sind der Schlüssel zum Bereich der Transformation. Innovative digitale Lösungen spielen eine wichtige Rolle, um einen pluralistischen Zugang zu vertrauenswürdigen und aussagekräftigen Informationen und Qualitätsinhalten zu gewährleisten.

Der Konsum von Nachrichtenmedien hat während der COVID19 -Krise erheblich zugenommen, da die Menschen in einer Zeit der Unsicherheit nach relevanten und sachlichen Informationen suchen. Leider wurden Online-Dienste auch von böswilligen Akteuren genutzt, um gefährliche Desinformationskampagnen zu verbreiten, mit manchmal tödlichen Folgen. In ähnlicher Weise ist der Bedarf an zuverlässigen und konsistenten Interaktionen in den sozialen Medien sowie an Zugang zu audiovisuellen Inhalten, Spielen und anderen interaktiven Aktivitäten während COVID-19 gestiegen.

Vor allem die Medien- und Digitalkompetenz ist eine der wichtigsten Säulen im Kampf gegen Desinformation, wie z. B. auch in der Mitteilung: "Tackling disinformation - the European Approach". Da die modernen sozialen Medien mehr und mehr auf KI basieren und die heutigen Desinformationsmechanismen immer ausgefeilter werden, sind fortschrittliche Mittel erforderlich, um ein vertrauenswürdiges Umfeld zu gewährleisten. KI-Technologien, die auf Werkzeuge und Dienste angewendet werden, die auf das Medien-Ökosystem zugeschnitten sind, werden den Zugang zu vertrauenswürdigen Informationen sowie deren Erstellung und Verbreitung erleichtern und es ermöglichen, ausgefeilten Erscheinungsformen von Desinformation entgegenzuwirken.

Die Ergebnisse aus diesem Thema werden Verwertungs- und Aufnahmemöglichkeiten für die Programme Digitales Europa und Kreatives Europa bieten.

Von den Forschungs- und Innovationsvorschlägen wird erwartet, dass sie sich mit einem der folgenden Themen befassen:

  • Fortschrittliche KI-basierte Lösungen zur Sicherung einer vertrauenswürdigen Online-Umgebung. Desinformationstechniken sind bereits heute stark KI-basiert. Daher müssen wissenschaftliche Forscher und Medienpraktiker mit quantitativen und halbüberwachten Tools auf der Grundlage von KI und netzwerkwissenschaftlichen Tools mit mindestens dem gleichen Entwicklungsstand ausgestattet werden, die in der Lage sind, verschiedene Formen von Deep-Fakes und manipulierten Inhalten zu erkennen und zu verstehen, wie und wo sich diese Art von Inhalten online verbreitet. Die Entwicklung solcher Tools erfordert die Beteiligung einer wissenschaftlichen Gemeinschaft an der Schnittstelle zwischen KI und Informatik, Mathematik, sozialen Netzwerkwissenschaften, Sozialwissenschaften und anderen relevanten Wissenschaftsbereichen, die eng mit Journalisten und Medienpraktikern zusammenarbeitet und mit der notwendigen Rechenleistung ausgestattet ist, um umfangreiche Inhalte (z. B. Videos und Bilder) zu analysieren und die Verwaltung, Verarbeitung und Analyse des Informationsflusses in Online-Systemen zu automatisieren.
  • Fortschrittliche KI-basierte Lösungen, die sich an Bürger richten, um eine vertrauenswürdige Online-Umgebung zu gewährleisten. Die Lösungen sollten die Fähigkeit der Bürger fördern, Desinformationen durch KI-Innovationen zu identifizieren, zu verifizieren und zu bekämpfen. Die angebotenen Lösungen würden die Analyse und das Aufspüren verschiedener Formen von Inhalten, die Korrelation/den Vergleich verschiedener Informationsquellen und die Nutzung von Kontextinformationen umfassen. Effiziente und intuitive Mechanismen zur Übermittlung der Informationen hinsichtlich der Qualität/Wahrhaftigkeit der Informationen sollten ggf. angesprochen werden. Transparenz und menschliche Kontrolle wären im Hinblick auf die Befähigung der Bürger von zentraler Bedeutung.

Die Vorschläge sollten gegebenenfalls die Entwicklung von Werkzeugen und Prozessen für Entwurf, Prüfung und Validierung, Einsatz und Übernahme, Prüfung, Zertifizierung (wo angemessen), Software-Engineering-Methoden sowie Ansätze für Modularität und Interoperabilität umfassen. Die Relevanz für reale Anwendungen sollte nachgewiesen werden. Verschiedene KI-Ansätze zur Erkennung, Erarbeitung von Konfidenzniveaus, Abwägung von Widersprüchen, Mustererkennung in einem Feld heterogener Quellen und Medienformate sowie zur Entscheidungsunterstützung sind zu berücksichtigen. Die Beteiligung von multidisziplinären Teams und transdisziplinäre Forschung werden wesentlich sein. Die Konsortien werden nachdrücklich ermutigt, mit europäischen Unternehmen zusammenzuarbeiten, die Teil des Medien-Ökosystems sind, einschließlich KMU, und auch mit nicht-medialer industrieller und technologischer Expertise.

Aus den Vorschlägen sollte klar hervorgehen, auf welches Ergebnis sie sich konzentrieren werden (d. h. auf Medienfachleute oder Bürger).

Die Vorschläge sollten auch mit der laufenden Forschung und Entwicklung in den Bereichen Medien und soziale Medien koordiniert werden und Komplementarität mit Projekten in diesem Bereich gewährleisten (z. B. AI4Media, Fandango), die Erwartungen des Medienaktionsplans und des Europäischen Aktionsplans für Demokratie berücksichtigen und mit der Europäischen Beobachtungsstelle für digitale Medien zusammenarbeiten. Die Infrastrukturen und Communities des Media Data Space (entwickelt im Rahmen von Digital Europe) könnten eine Gelegenheit bieten, neue Tools, die von den ausgewählten Vorschlägen produziert werden, zu testen. Die Vorschläge sollten Aktivitäten zur Zusammenarbeit mit Projekten vorsehen, die aus den Themen HORIZON-CL3-2021-FCT-01-03 stammen: Desinformation und Fake News werden bekämpft und das Vertrauen in die digitale Welt wird gestärkt.

Von allen Vorschlägen wird erwartet, dass sie Mechanismen zur Bewertung und zum Nachweis von Fortschritten (mit qualitativen und quantitativen KPIs, Demonstratoren, Benchmarking und Fortschrittsmonitoring) einbetten und kommunizierbare Ergebnisse mit der europäischen F&E-Gemeinschaft über die AI-on-demand-Plattform, einer öffentlichen Gemeinschaftsressource, teilen, um die Wiederverwendung von Ergebnissen und die Effizienz der Finanzierung zu maximieren.

Die Aktivitäten sollen bis zum Ende des Projekts TRL5-6 erreichen.

Themen Forschung & Innovation, Technologietransfer & -austausch, Kapazitätenaufbau, Kooperationsnetzwerke, Institutionelle Kooperation, Clustering, Entwicklungszusammenarbeit, wirtschaftliche Zusammenarbeit, Digitalisierung, IKT, Telekommunikation, Kinder & Jugend, Bildung & Erziehung, Verbraucherschutz, Kunst & Kultur, Kulturerbe, Geschichte, Medien
Fördergebiet EU Mitgliedstaaten
Überseeische Länder und Hoheitsgebiete (ÜLG)
Herkunftsgebiet Antragsteller EU Mitgliedstaaten
Überseeische Länder und Hoheitsgebiete (ÜLG)
Förderfähige Antragsteller Forschungseinrichtung, Internationale Organisation, Kleine und mittlere Unternehmen, KMU (10 bis 249 Beschäftigte), Kleinstunternehmen (unter 10 Beschäftigte), NGO / NPO, Öffentliche Einrichtung, Sonstiges, Start-Up Unternehmen, Universität/(Fach)Hochschule, Unternehmen (mehr als 250 Beschäftigte bzw. undefiniert), Aus- und Weiterbildungseinrichtung, Verein, Bundesland / Region / Stadt / Gemeinde / Gebietskörperschaft, Interessensvertretung / Berufsverband / Gewerkschaft, Staatsregierung
Antragsteller Details

förderfähige Nicht-EU-Länder:

  • mit Horizont Europa assoziierte Länder
Zum Zeitpunkt der Veröffentlichung des Arbeitsprogramms gibt es keine mit Horizont Europa assoziierten Länder. In Anbetracht des Interesses der Union, die Beziehungen zu den mit Horizont 2020 assoziierten Ländern grundsätzlich beizubehalten, wird erwartet, dass die meisten mit Horizont 2020 assoziierten Drittländer mit Horizont Europa assoziiert werden, um eine ununterbrochene Kontinuität zwischen Horizont 2020 und Horizont Europa zu gewährleisten. Darüber hinaus können auch andere Drittländer während der Laufzeit des Programms mit Horizont Europa assoziiert werden. Für die Zwecke der Förderbedingungen werden Antragsteller, die in mit Horizont 2020 assoziierten Ländern oder in anderen Drittländern, die über eine Assoziierung mit Horizont Europa verhandeln, ansässig sind, wie Einrichtungen behandelt, die in einem assoziierten Land ansässig sind, wenn das Assoziierungsabkommen von Horizont Europa mit dem betreffenden Drittland zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung gilt.

  • Länder mit niedrigem und mittlerem Einkommen

Rechtspersonen, die ihren Sitz in Ländern haben, die oben nicht aufgeführt sind, können eine Förderung erhalten, wenn dies in den besonderen Bedingungen der Aufforderung vorgesehen ist oder wenn ihre Teilnahme von der Bewilligungsbehörde als wesentlich für die Durchführung der Maßnahme angesehen wird.

Sonderfälle:

  • Verbundene Einrichtungen - Verbundene Einrichtungen sind förderfähig, wenn sie ihren Sitz in einem der oben genannten Länder haben.
  • EU-Einrichtungen - Rechtspersonen, die nach EU-Recht gegründet wurden, können ebenfalls förderfähig sein, sofern ihr Basisrechtsakt nichts anderes vorsieht.
  • Internationale Organisationen - Internationale europäische Forschungsorganisationen sind förderfähig. Andere internationale Organisationen sind nicht förderfähig, es sei denn, ihre Beteiligung wird von der Bewilligungsbehörde als wesentlich für die Durchführung der Maßnahme angesehen. Internationale Organisationen mit Sitz in einem Mitgliedstaat oder einem assoziierten Land können eine Förderung für "Ausbildungs- und Mobilitätsmaßnahmen" erhalten, wenn dies in den besonderen Bedingungen der Aufforderung vorgesehen ist.
Projektpartner Details

Sofern in den besonderen Bedingungen für die Aufforderung zur Einreichung von Vorschlägen nichts anderes vorgesehen ist, sind Rechtspersonen, die ein Konsortium bilden, zur Teilnahme an den Maßnahmen berechtigt, sofern das Konsortium Folgendes umfasst

  • mindestens eine unabhängige Rechtsperson mit Sitz in einem Mitgliedstaat; und
  • mindestens zwei weitere unabhängige Rechtspersonen, die jeweils in verschiedenen Mitgliedstaaten oder assoziierten Ländern ansässig sind.
Art der Finanzierung Finanzhilfen

Um mehr Informationen zu diesem Call zu sehen, können Sie sich hier kostenlos registrieren:

Loading Animation