TÜV-Verband fordert differenzierte Sicherheitsprüfungen für KI-Anwendungen

Der TÜV-Verband hat das heute von der EU-Kommission vorgelegte „Weißbuch Künstliche Intelligenz“ grundsätzlich begrüßt, aber weitere Konkretisierungen gefordert. „Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem Weg zu einem einheitlichen europäischen Datenraum“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV). „Es ist sinnvoll, Produkte und Anwendungen mit Künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben für KI-Anwendungen geben.“

Die Vorschläge der EU-Kommission sehen vor, dass die Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen Stellen geprüft werden sollen. Erst dann dürften sie in Zukunft in der EU auf den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden. Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit mittlerem und niedrigem Risiko geregelt werden. „Analog zu den bisher geltenden Vorgaben zur Produktsicherheit in der EU sollten alle KI-Anwendungen in die Regulierung einbezogen werden“, betonte Bühler. „Je nach Risikolevel sollten unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden.“ Diese könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen, wie es heute schon unter anderem bei Autos, Aufzügen oder Medizinprodukten der Fall ist. Die konkrete Ausgestaltung der Vorgaben sollte in den EU-Verordnungen und Richtlinien für die jeweiligen Produkte und Dienstleistungen erfolgen. Bühler: „Mit einem risikobasierten Ansatz können wir in der EU innovative digitale Technologien fördern und gleichzeitig die Sicherheit der Nutzerinnen und Nutzer gewährleisten.“

Zusätzlicher Regelungsbedarf besteht aus Sicht des TÜV-Verbands beim Zugang zu Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in ihrer ebenfalls heute vorgelegten Datenstrategie zwar die Einrichtung von „Datenräumen“ für verschiedene Bereiche wie Mobilität, Gesundheit oder Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage.

Im Fahrzeugsektor werden zum Beispiel immer mehr Funktionen digitalisiert und automatisiert. „Die Prüforganisationen brauchen für Sicherheitsprüfungen von Assistenzsystemen Zugang zu bestimmten Fahrzeugdaten“, sagte Bühler. Darüber hinaus müsse auch der Zugang zu Fahrzeugdaten für kommerzielle Zwecke geregelt werden. Bisher haben allein die Fahrzeughersteller die Kontrolle über die beim Fahren generierten Daten. Bühler: „Die Datenhoheit im Fahrzeug sollten die Besitzer und Fahrer haben und selbst entscheiden, welche Daten sie für welche Zwecke teilen wollen.“ Nur so könnten Fahrzeugdaten für innovative Anwendungen genutzt werden. Der TÜV-Verband hat mit seinem TrustCenter-Konzept einen Vorschlag vorgelegt, wie der Zugang zu Fahrzeugdaten für unterschiedliche Zwecke datenschutzkonform und unter Ausgleich verschiedener Interessen geregelt werden kann.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind 85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und Anwendungen mit Künstlicher Intelligenz erst auf den Markt gebracht werden sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde. Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen, zum Beispiel bei hoch automatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat Gesetze und Vorschriften zur Regulierung von Künstlicher Intelligenz verabschieden sollte. Das hat eine repräsentative Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

About David Maul

David Maul ist studierter Wirtschaftsinformatiker mit einer Leidenschaft für Hardware

Leave a Comment

Your email address will not be published. Required fields are marked *