1.1. § 55a Abs. 1 Nr. 13 AWV – weite Erfassung, abstrakte Kriterien
Die insoweit maßgebliche Vorschrift, § 55a Abs. 1 Nr. 13 AWV, erfasst Entwickler und Hersteller von Gütern, die sich zur missbräuchlichen Nutzung von KI eignen. KI gilt als Schlüsseltechnologie, deren Bedeutung für die Gesellschaft weiter zunehmen wird und die zugleich erhebliches Missbrauchspotenzial birgt.
Nach dem Wortlaut der Vorschrift muss die KI lediglich missbräuchlich genutzt werden können. Die Norm knüpft an die „objektive Nutzbarkeit“ für missbräuchliche Zwecke an. Eine Zweckbestimmung oder gar eine konkrete Missbrauchsabsicht ist nicht erforderlich. Das führt zu einem sehr weiten Prüfungsmaßstab.
Eingeschränkt wird dieser Prüfungsmaßstab zwar durch die in § 55a Abs. 1 Nr. 13 lit. a–d AWV konkret genannten Nutzungsarten. Diese umfassen aber beispielsweise auch Mittel zur Auswertung von Sprachkommunikation oder zur biometrischen Fernidentifikation von Personen zum Zwecke der Überwachung, die bei objektiver Betrachtung auch zur internen Repression geeignet sind.
Über solche namentlich genannten missbräuchlichen Nutzungsarten hinaus ist § 55 a Abs. 1 Nr. 13 AWV allerdings abstrakt formuliert. Rechtsprechung und Kommentarliteratur existieren bislang nur wenig. Für Unternehmen ist daher nur schwer vorhersehbar, ob ihre Aktivitäten möglicherweise in den Anwendungsbereich der Norm fallen. Außerhalb der im Gesetz selbst genannten Beispiele besteht also erhebliche Rechtsunsicherheit.
In unserem Beispielsfall liegt es nicht fern, dass eine KI, die Sprachkommunikation umfassend erfasst und analysiert, objektiv auch zu Überwachungszwecken eingesetzt werden könnte.