AlgorithmWatch fordert von Google Daten über die Auswirkungen der neuen KI-Zusammenfassungen („AI Overviews“) auf die Zugriffszahlen zu externen Websites. Die NGO befürchtet, dass AI Overviews ein Risiko für die Meinungs- und Informationsfreiheit darstellen und ist eine der ersten Organisationen, die neue EU-Vorschriften nutzen, um Zugriff auf interne Daten großer Online-Dienste zu erhalten.

Google hat Anfang dieses Jahres KI-Zusammenfassungen eingeführt, so dass vielen Nutzer*innen standardmäßig KI-generierte Kurzantworten auf ihre Suche oberhalb der „traditionellen“ Suchergebnisse angezeigt werden. Nicht nur hinsichtlich der Qualität und Genauigkeit dieser Zusammenfassungen gibt es Bedenken, sondern auch mit Blick auf Auswirkungen auf die allgemeine Informationslandschaft. Wenn Nutzer*innen ausschließlich diese Zusammenfassungen lesen, anstatt die in der Suche gefundenen Websites zu besuchen, kann das für Medien und Organisationen, die zuverlässige Informationen bereitstellen, ein systemisches Risiko darstellen.

Im September hat AlgorithmWatch als Teil einer Allianz aus NGOs, Verbänden und Organisationen der Medienbranche, bei der Bundesnetzagentur, der deutschen Regulierungsbehörde für den Digital Services Act (DSA) der EU, eine Beschwerde gegen das Tool für KI-Zusammenfassungen von Google eingereicht, weil es ein „Traffic Killer“ für unabhängige Medien ist.

Dr. Oliver Marsh, Head of Tech Research bei AlgorithmWatch, kommentiert: „Wir fordern heute von Google Daten darüber an, wie viele Menschen nach einer Suche noch andere Websites besuchen und wie viele sich mit der KI-Zusammenfassung zufriedengeben. Der Traffic zu Quellen wie Zeitungen und anderen Websites sinkt bereits erheblich. Das ist ein ernstes Risiko für den Journalismus und alle anderen, die verlässliche Informationen bereitstellen. Was wird solche Websites und den Journalismus ersetzen? Ein fehleranfälliges, intransparentes KI-Tool?

Google behauptet zwar, dass sie die Risiken dieses Tools untersucht haben, wie es der DSA vorschreibt, aber nennt keine Details. Das ist angesichts des großen Risikos für unsere Informations- und Medienlandschaft inakzeptabel.“

Neue interne Datenzugriffsregeln

Ab heute können nicht-kommerzielle Forschungsorganisationen gemäß Artikel 40.4 des DSA der EU bei den nationalen Regulierungsbehörden (den sogenannten „Nationalen Koordinatoren für digitale Dienste“, DSC) Zugang zu internen Daten von sehr großen Online-Plattformen und Suchmaschinen beantragen. Dabei handelt es sich um Dienste mit mehr als 45 Millionen Nutzer*innen in der EU, darunter Google Search, Facebook, TikTok, sowie große App-Stores, E-Commerce-Dienste und pornografische Websites.

Die angeforderten Daten müssen dazu dienen, sogenannte „systemischer Risiken“ zu untersuchen, wie z. B. Gefahren für die Meinungs- und Informationsfreiheit, die öffentliche Gesundheit, Wahlprozesse oder andere im DSA aufgeführte Risiken. Wenn der Dienst die Herausgabe der Daten verweigert, beispielsweise mit Verweis auf Geschäftsgeheimnisse, können die nationalen DSCs zwischen dem Unternehmen und den Forscher*innen vermitteln, um eine Lösung zu finden.

Dazu sagt Dr. Oliver Marsh: „Die neuen Regeln für den Datenzugang sind eine wichtige Ergänzung unserer Möglichkeiten. Sie gehen über die Erlaubnis hinaus, nur öffentlich zugängliche Daten zu nutzen, und gewähren akkreditierten Forscher*innen Zugang zu internen Daten, so dass wir detailliertere Analysen zu Auswirkungen der jeweiligen Technologie durchführen können. Insbesondere Unternehmen haben immer wieder gefordert, dass wir ihnen einfach dabei vertrauen, valide Daten zur Risikobewertung zu haben. Jetzt können wir diese Daten tatsächlich selbst einsehen. Die neuen Regeln beinhalten auch Bewertungsverfahren, um sicherzustellen, dass die Empfänger*innen angemessen mit diesen Daten umgehen. Wir freuen uns darauf, mit den deutschen Regulierungsbehörden zusammenzuarbeiten, um die Verfahren zu testen.“

Hintergrund

Artikel 40.4 des DSA baut auf dem bereits umgesetzten Artikel 40.12 des DSA auf, der es Forscher*innen ermöglicht, öffentlich zugängliche Daten zur Untersuchung systemischer Risiken anzufordern – beispielsweise Social-Media-Beiträge zu einem bestimmten Thema, oder Informationen zu Produkten, die in E-Commerce-Shops erhältlich sind. Anfang Oktober veröffentlichte AlgorithmWatch zusammen mit der Mozilla Foundation und dem DSA 40 Data Access Collaboratory eine „Massenanfrage zum Datenzugang“, in der sechs große Plattformen aufgefordert wurden, einer Koalition von über 20 Forschungsorganisationen regelmäßig Listen ihrer reichweitenstärksten Inhalte in den EU-Mitgliedstaaten zur Verfügung zu stellen.