Das beim Bundestag angesiedelte Büro für Technikfolgen-Abschätzung hält bei KI-basierten Anwendungen mehr Transparenz, wirksamen Datenschutz sowie eine Erkennungsmöglichkeit für „besonders dringlich“. Das geht aus einer gut hundertseitigen Untersuchung über „ChatGPT und andere Computermodelle zur Sprachverarbeitung“ hervor, die der Forschungsausschuss im Februar in Auftrag gegeben hatte. Im Fokus des Papiers stehen Grundlagen, Anwendungspotenziale und mögliche Auswirkungen solcher Systeme. Eine staatliche Festlegung von Rahmenbedingungen sei „angemessen und gegebenenfalls angebracht“, so das vom Karlsruhe Institut für Technologie (KIT) betriebene Büro, das neben Chancen auch Risiken benennt.
So könnten sprachverarbeitende KI-Systeme etwa für unerwünschte Werbung, Cyberangriffe und Desinformation genutzt werden. „Größere Mengen solcher bewusst schädigend eingesetzter Texte könnten das Vertrauen in den öffentlichen Diskurs als Ort demokratischer Meinungsbildung unterminieren“, heißt es in dem Papier. Gegenmaßnahmen wie eine automatisierte Erkennung von KI-Texten oder mehr Medienkompetenz gelten in der Fachwelt bisher als nicht wirksam genug. Für Regulierungsansätze, „die unerwünschten Entwicklungen Schranken setzen, ohne dabei Innovationen zu behindern“, hält das Büro besonders staatenübergreifende Initiativen wie das geplante KI-Gesetz der EU für geeignet.

Zur Untersuchung „ChatGPT und andere Computermodelle zur Sprachverarbeitung - Grundlagen, Anwendungspotenziale und mögliche Auswirkungen“ des Büros für Technikfolgenabschätzung beim Deutschen Bundestag

Robert Lepenies, Wirtschaftswissenschaftler und Präsident der privaten Karlshochschule in Karlsruhe, regte im Interview an, man müsse im Bildungswesen den Fokus der Debatte verschieben: "Ein reiner Fokus auf Hausarbeit oder Klausur als Maßstab für erfolgreiche Bildung – davon müssen wir uns befreien." Wie so häufig bei technologischen Innovationen falle die Bewertung ambivalent aus. "Das ist wie vor 30 Jahren in der Kneipe: Hatte da jemand eine Faktenfrage, konnte man auch nicht einfach nachschauen. Heute geht das. Und das kann eine Diskussion durchaus voranbringen oder Falschinformationen ausräumen." Andererseits aber werde eine ungerechte Gesellschaft durch eine disruptive Technologie "wahrscheinlich noch ungerechter". Die Konsequenzen für Forschung und Lehre sind laut Lepenies weitreichend: "Wir müssen vom Auswendiglernen und Reproduzieren weg zur Anwendung, zur Transformation – der Welt und der eigenen Persönlichkeit. Zum Beispiel Gruppenarbeit in konkreten Projekten in der Praxis."

Zum Interview mit Robert Lepenies in der taz vom 26.04. - das Gespräch führte Svenja Bergt