Der TÜV-Verband und das TÜV AI.Lab haben anlässlich des Digital-Gipfels der Bundesregierung ein Konzept für eine unabhängige Prüf- und Aufsichtsstruktur vorgeschlagen. Ziel ist die Etablierung eines sogenannten KI-TÜV, der insbesondere Frontier-KI und autonome KI-Agenten bewertet. Damit sollen Deutschland und Europa in die Lage versetzt werden, die Sicherheit von KI-Modellen unabhängig von ihrem Entwicklungsort vor der Markteinführung eigenständig zu prüfen.
In diesem System soll das deutsche KI-Sicherheitsinstitut (AISI) eine zentrale Rolle einnehmen und schrittweise zu einer eigenständigen Institution ausgebaut werden. Das AISI soll in Kooperation mit unabhängigen Prüforganisationen arbeiten, die Fachwissen aus den Bereichen Industrie, Mobilität und Energieversorgung einbringen. Diese Organisationen sollen technische Evaluationen durchführen und die Belastbarkeit von Sicherheitsnachweisen für den Einsatz von KI in technischen Systemen prüfen.
Parallel dazu sinkt das Vertrauen in internationale KI-Anbieter, wie eine Umfrage des Digitalverbands Bitkom zeigt. Während im Jahr 2025 noch 51 Prozent der befragten deutschen Unternehmen KI aus den USA bevorzugten, sank dieser Wert auf 41 Prozent. Bei chinesischen Anbietern fiel die Zustimmung von 18 Prozent im Vorjahr auf aktuell nur noch 12 Prozent. Im Gegensatz dazu äußerten 96 Prozent der Unternehmen den Wunsch nach Anwendungen deutscher Anbieter, wobei 64 Prozent jedoch keine Abstriche bei der Preis-Leistung akzeptieren würden.
Die Forderung nach einer unabhängigen Prüfung resultiert aus einer zunehmenden Zahl von Sicherheitsvorfällen, gefährlichen Fehlentscheidungen und Todesfällen im Zusammenhang mit KI. Kritiker bemängeln, dass Sicherheitsrisiken oft ignoriert oder dem Innovationsdruck untergeordnet wurden. Ein unabhängiger Prüfprozess wird daher als notwendig erachtet, um Verantwortlichkeiten zu klären und sicherzustellen, dass Fortschritt nicht zu Lasten von Umweltauflagen oder der allgemeinen Sicherheit geht.
