38C3

Hannah Ruschemeier

Ich bin Juniorprofessorin für öffentliches Recht, Datenschutzrecht und Recht der Digitalisierung. In meiner Forschung befasse ich mich mit der Regulierung datenintensiver Technologien, Datenschutz im Grundrechtskontext, dem überbordenden Einsatz von Überwachungstechnologien durch staatliche Akteure und normativen Dimensionen von Datenmacht und Nachhaltigkeitsfragen der Digitalisierung.
Mit dem Porjekt OZUG- offener Zugang zum Grundgesetz setze ich mich für einen freieren Zugang zu rechtswissenschaftlichem Wissen ein.


Session

12-28
12:00
40min
Gemeinwohlorientierte Forschung mit KI: Missbrauch eindämmen durch Zweckbindung für KI-Modelle
Rainer Mühlhoff, Hannah Ruschemeier

Trainierte KI-Modelle sind mächtige Werkzeuge, die in Wissenschaft und Forschung oft für gute Zwecke gebaut werden. Aber wie alle Werkzeuge können sie auch zweckentfremdet werden – in Bereichen, für die sie nicht gedacht waren, in denen sie profitgierigen Interessen dienen und gesellschaftlichen Schaden anrichten. Vor dem Hintergrund des Trends von "open source" AI ist die Gefahr der unkontrollierten Zweckentfremdung von KI-Modellen enorm gestiegen. Wir zeigen: Das Risiko einer missbräuchlichen Sekundärnutzung von für Forschungszwecke trainierten KIs ist aktuell die größte regulatorische Lücke, trotz DSGVO und AI-Act. Zugleich ermöglicht das Zweckentfremden von Modellen die immer weiter wachsende Machtposition von Big Tech. Um das Problem zu bekämpfen, muss das Prinzip "Zweckbindung" für das Zeitalter der KI geupdated werden.

Science
Saal ZIGZAG