VON CHATGPT UND KÖLNALUMNI

Claudia Nemat, Marco Zingler und Dr. Erik Weiss haben sich auf ein ungewöhnliches Experiment eingelassen: Ihr Gespräch über die Auswirkungen von KI auf Wirtschaft, Gesellschaft und Kommunikation wurde von einem „Kartenspiel“ geleitet – mit Fragen, die eine KI generiert hat. Reihum zogen die Teilnehmer:innen eine Karte, die neue Impulse setzte: Welche Berufe verschwinden? Wird KI langfristig Teil unserer kulturellen Identität? Und kann Regulierung mit der rasanten Entwicklung überhaupt Schritt halten? Was folgte, war eine spannende und kontroverse Diskussion, die zeigte: KI ist längst kein Zukunftsthema mehr – sie formt bereits unsere Gegenwart.¹

Claudia Nemat: Fertig, los! So, meine Herren, ich starte mal mit der ersten Karte.

KI verändert zunehmend den Arbeitsalltag in verschiedenen Branchen. Wie begegnen Sie persönlich in Ihrem beruflichen Alltag den Herausforderungen und Chancen, die KI mit sich bringt, und welche Beispiele aus Ihrem Tätigkeitsfeld zeigen die Wirkung von KI besonders deutlich?

Nemat: Ich fange mal mit meiner Lieblingsanwendung an. Bei mir ist das derzeit Perplexity. Was ich daran mag, ist, dass man wirklich komplexe und einfache Fragen stellen kann – wie zum Beispiel „Ich habe Kinder im Teenageralter, erklär‘ mir mal Quantentheorie in vier einfachen Sätzen“. Und die KI liefert dann nicht nur eine verständliche Antwort, sondern auch Quellen und Anregungen für weiterführende Themen. Das ist mal ein persönliches Beispiel aus dem Alltag.

Bei der Deutschen Telekom setzen wir KI und Automatisierung mittlerweile in fast allen Prozessen ein, sowohl für unsere Privat- als auch Geschäftskunden. Unsere Techniker:innen müssen jeden Tag Tausende von Hausanschlüssen schalten. Bisher hat eine Schaltung pro Hausanschluss 225 Sekunden gedauert. Durch die Integration von Sprachmodellen dauert es nun nur noch neun Sekunden. Damit gewinnen die Mitarbeiter:innen enorm viel Zeit, die sie für wichtigere Aufgaben nutzen können. Das ist ein Beispiel dafür, wie KI den Arbeitsalltag erleichtert und gleichzeitig den Mitarbeitenden bessere Bedingungen verschafft. Aber die größte Herausforderung bleibt, die Technologie so zu gestalten, dass sie als sinnstiftend empfunden wird und echte Mehrwerte für die Menschen bringt.

Erik Weiss: Aus meiner Perspektive spielen vor allem die normativen Aspekte eine Rolle, weil ich mich mit den rechtlichen Implikationen von KI beschäftige. Insbesondere in einem Forschungsprojekt, in dem wir KI aus ethischer, rechtlicher und technischer Perspektive untersuchen. In meinem Lehralltag wird KI auch zunehmend relevant, besonders im Hinblick auf Prüfungsformen. Eine Frage, die sich beispielsweise stellt, ist, wie wir mit Hausarbeiten umgehen, wenn immer mehr KI-Systeme in der Lage sind, diese Aufgaben – zumindest teilweise – zu übernehmen. Können wir diese Prüfungsform überhaupt noch sinnvoll aufrechterhalten, wenn KI ein immer größerer Bestandteil des Bildungsprozesses wird? 

Auf der anderen Seite stellt sich die Frage, wie wir in der universitären Lehre mit Security umgehen, wenn KI die Prüfungs- und Lernmethoden verändert. Diese Diskussionen sind gerade sehr virulent. Ich selbst nutze KI auch, etwa um Inspiration für Vortragstitel zu finden oder um mich in einem Thema schneller zurechtzufinden.

Nemat: Im Kontext von Regularien und Normen sind Law Monitoring² Tools auch interessant. Wenn Sie oder Ihr Unternehmen etwas vorhaben, können Sie KI nutzen, um sicherzustellen, dass alles mit den geltenden Vorschriften übereinstimmt. Viele unserer Geschäftskunden nutzen KI, um die zunehmende Bürokratie zu überwinden und Prozesse effizienter zu gestalten. Gerade diese Art von KI-Anwendungen ist für viele ein echter Game Changer.

Marco Zingler: Bei mir ist es ähnlich wie bei Ihnen. Ich bin ein großer Fan von KI, vor allem von Tools wie Perplexity, die es uns ermöglichen, Fragen in natürlicher Sprache zu stellen und sofort präzise Antworten zu erhalten. Früher mussten wir uns mit den oft chaotischen Ergebnissen von Google herumschlagen – viele Links, die teilweise manipuliert wurden, um durch SEO an vorderster Stelle zu erscheinen. Jetzt bekomme ich eine natürliche, kompetente Antwort, und wenn ich tiefer graben will, kann ich das sofort tun. Für mich hat sich die Art, wie ich Informationen finde, völlig verändert – und zwar zum Positiven. Die Effizienz ist unglaublich. Geschäftlich gesehen ist KI für uns ein riesiges Thema. Wir arbeiten schon lange mit maschinellem Lernen, aber mit der Einführung von generativer KI haben wir eine neue Ära erreicht. Wir testen ständig neue Anwendungen und bringen diese Technologien zusammen mit unseren Kund:innen zum Einsatz. Es verändert nicht nur unser Geschäft, sondern auch das unserer Kund:innen, was eine spannende Dynamik schafft.

Nemat: Ich sehe das genauso. Bei der Telekom ist es ähnlich: Wenn wir KI mit hohem ethischen Anspruch und in einem Umfeld mit vielen Mitarbeiter:innen einführen, hat das automatisch eine höhere Glaubwürdigkeit – besonders, wenn wir diese Lösungen später für unsere Geschäftskund:innen nutzen. Das ist auf jeden Fall ein Vorteil.

Zingler: Absolut, KI ist mittlerweile ein wesentlicher Teil meines Alltags geworden – sowohl privat als auch beruflich. Es ist faszinierend, wie schnell sich alles verändert. Aber die Frage, die man sich stellen muss, ist: Was passiert, wenn wir feststellen, dass diese Technologie in fünf Jahren schon wieder überholt ist? Wir könnten heute schon wieder auf etwas Neues warten, das die KI noch schneller und besser macht. Die Entwicklungen sind so rasant, dass wir schon fast von einer archäologischen Fundgrube sprechen könnten, wenn wir unsere heutigen Diskussionen in fünf Jahren noch einmal anhören. Es bleibt spannend, wie sich die Technologie weiterentwickelt und welche neuen Herausforderungen und Chancen sie mit sich bringt.

Wird KI langfristig Teil unserer kulturellen Identität, ähnlich wie das Internet oder die Elektrizität?

Weiss: Als Jurist würde ich fragen: Was verstehen wir eigentlich unter kultureller Identität? Wenn damit gemeint ist, dass KI ein wesentlicher Bestandteil unseres Alltags wird, dann ist die KI längst untrennbar mit unserer Identität verbunden und der Einfluss wird weiter wachsen. Die zentrale Frage ist eher, in welchem Umfang wir diese Entwicklung mitgestalten wollen und wo wir klare Grenzen setzen. Hier spielt der rechtliche Rahmen eine entscheidende Rolle: Wir müssen sicherstellen, dass KI nicht unkritisch genutzt wird, sondern dass wichtige Grundprinzipien und Werte gewahrt bleiben. Solange das gewährleistet ist, bleibt KI ein Teil unserer kulturellen Identität. Als Rechtswissenschaftler interessieren mich vor allem die normativen Grenzen.

Zingler: Das finde ich auch spannend. Ich war ja Historiker, bevor ich in die digitale Industrie gekommen bin. Deshalb frage ich mich, ob es je eine Technologie gab, die man durch normative Grenzen wieder zurückholen konnte. Wie verhindern wir, dass eine so gewaltige technologische Revolution unkontrolliert voranschreitet, wenn der Geist erst mal aus der Flasche ist? Ein historisches Beispiel: Japan hat sich 200 Jahre lang geweigert, sich der industriellen Revolution zu stellen, bis die westlichen Kanonenboote kamen und es zur Öffnung zwangen. Wie groß sind unsere Spielräume, um diese Entwicklung zu beeinflussen?

Weiss: Das hängt davon ab, wie wir das normative Setting gestalten. Jede Gesellschaft muss für sich definieren, welche Werte sie vertreten möchte und ob technologische Entwicklungen damit vereinbar sind. Aus einer normativen Perspektive steht das selbstbestimmte Individuum an erster Stelle – das ist das Fundament eines freiheitlichen Rechtsstaats. Und daran muss sich jede technologische Entwicklung messen lassen.

Nemat: Bei der Telekom haben wir bereits 2018 als eines der ersten Unternehmen weltweit Leitlinien für den ethischen Umgang mit künstlicher Intelligenz eingeführt. Ein wichtiger Punkt dabei war die Verantwortung. Wir wollten keine Ergebnisse einfach einem Algorithmus zuschreiben. Zum Beispiel haben wir in Österreich festgestellt, dass einige Algorithmen ältere Menschen diskriminiert haben, weil sie bestimmte Angebote nicht mehr erhalten haben. In solchen Fällen kann man nicht einfach sagen: „Das war die KI“, und dann ist es erledigt.

Ich denke, in Europa müssen wir jedoch aufpassen, dass wir nicht ausschließlich auf Regulierung setzen, um dieses Thema zu steuern. Es gibt eine Tendenz, dass wir in Europa den Sicherheitsgurt vorschreiben, noch bevor das Auto erfunden ist. Wir müssen einen bewussten, aber nicht naiven Umgang mit den Möglichkeiten der KI finden. Aus meiner Sicht sollte Europa eine „KI-Chancenrepublik“ werden, in der wir das enorme Potenzial stärker nutzen, um echte Probleme der Menschheit zu lösen. Wenn wir Fehlentwicklungen erkennen – und die gibt es – sollten wir diese ansprechen. Ein Beispiel ist, dass viele Algorithmen auf sozialen Plattformen Hass und Fake News schneller verbreiten als positive Informationen. Das gefährdet in meinen Augen die Demokratie. Wir müssen als Gesellschaft wehrhaft bleiben und darauf reagieren. Aber was wir vermeiden sollten, ist, ein noch unsicheres Thema in allen Eventualitäten zu regulieren, bevor wir es überhaupt richtig verstehen. Es scheint mir, dass die Bürokratie in Deutschland und Europa zunehmend dazu tendiert, Dinge schon im Vorfeld überregulieren zu wollen. Besonders bei der KI-Verordnung³ war es anfangs genau das Thema, aber dann wurde glücklicherweise ein risikobasierter Ansatz gewählt. Es bleibt jedoch offen, wie das in der Praxis umgesetzt wird und wie es sich konkret entwickeln wird.

Zingler: Das ist genau der Punkt. Wenn ich die Frage aufnehme, ob die EU-Verordnung problematisch ist, würde ich sagen, es ist wirklich eine Frage von „sowohl als auch“. Natürlich ist es wichtig, in so einem sensiblen Bereich rechtliche Grenzen zu haben. Die Europäische Union hat aufgrund ihres Binnenmarktes eine starke Regulierungsmacht, die weltweit Beachtung findet.

Nemat: Genau, wir sind eine Regulierungsmacht. Aber wir müssen auch eine KI-Umsetzungsmacht sein.

Zingler: Und das ist ein zweischneidiges Schwert. Nehmen wir die neue Verordnung. Jetzt müssen wir sicherstellen, dass alle Mitarbeiter:innen, die damit zu tun haben, ausreichend geschult sind. Ich muss die 140 Seiten auswendig lernen, weil uns diese Vorschrift aufgetragen wurde. Bei meiner mittelständischen Firma stellt sich dann die Frage, was genau bedeutet „ausreichend geschult“? Wer genau muss geschult werden und wie?

Weiss: Das ist bei jeder Regulierung ähnlich.

Zingler: Wenn Sie anfangen, nach Antworten zu suchen, stellen Sie fest, dass die komplexesten Fragen nicht von denjenigen kommen, die die Regeln formuliert haben. Es gibt auch keine Behörde, die einen konkreten Hinweis darauf gibt, was gemeint sein könnte. Stattdessen entsteht eine ganze neue Branche für private juristische Beratung. Und das war auch schon bei der Datenschutzgrundverordnung so, oder bei den Lieferkettengesetzen und vielen anderen Vorschriften. Der Ansatz ist grundsätzlich ehrenhaft, das teile ich auch, aber in der Praxis wird eine enorme bürokratische Last auf die Wirtschaft abgewälzt. Der Aufwand und Nutzen sind in vielen Fällen nicht vernünftig abgewogen, was uns im globalen Wettbewerb behindern kann.

Nemat: Und das kann nicht das Ziel der Regulierungsbehörden sein. Diese sollten schließlich immer dann erfolgreich sein, wenn wir eine Industrie haben, die auf dem Weltmarkt konkurrenzfähig ist, damit es überhaupt jemanden gibt, den man regulieren kann. Ansonsten regulieren wir Start-ups zu Tode, bevor sie überhaupt zu einer Industrie werden.

Zingler: Ganz genau.

Weiss: Das ist alles eine Frage der Perspektive. Ich verstehe Ihre Bedenken, aber ich denke, man kann Regulierung auch als Chance für Innovation sehen. Wenn wir uns anschauen, was in den USA passiert – dort werden Regularien zurückgenommen –, könnte das Europa in eine gute Position bringen. Europa könnte das Vertrauen in KI durch gut ausbalancierte Regulierung steigern und einen Wettbewerbsvorteil erzielen. Regulierung muss nicht nur zu Überregulierung führen, sondern kann auch ein positives Signal für Vertrauen und Innovation sein.

Nemat: Ich stimme zu, aber es kommt darauf an, wann man reguliert. Bei offensichtlichem Missbrauch müssen wir kraftvoll eingreifen, aber wir sollten nicht versuchen, etwas zu regulieren, das gerade erst entsteht. Zu viel Bürokratie zu einem frühen Zeitpunkt kann Innovation verhindern. Unsere Aufgabe ist es, die wichtigen Dinge durchzusetzen, ohne zu viel Bürokratie zu schaffen. Wir sollten es vermeiden, das ganze System durch Mikro-Management zu lähmen. Es gibt auch unbürokratische Ansätze, wie zum Beispiel durch den Einsatz von Law Monitors, die einen pragmatischen Weg bieten.

Zingler: Ich verstehe Ihre Perspektive. Wir sollten jedoch vermeiden, jede gesetzliche Regelung als eine unzumutbare Einschränkung zu sehen. Der Rechtsstaat ist ein Vorteil, und die Märkte müssen nach klaren Regeln funktionieren. Das ist für den globalen Wettbewerb wichtig. Ich stimme auch zu, dass der Risikoansatz in der Verordnung richtig ist – wir verbieten uns nur bestimmte Risiken, die ohnehin nicht relevant sind. Das ist sinnvoll, aber die Umsetzung der Verordnung könnte verbessert werden, vor allem für kleinere Unternehmen.

Nemat: Ja, die Bürokratie stellt gerade für kleine Unternehmen eine riesige Herausforderung dar. Während große Unternehmen in der Lage sind, solche Regulierungen zu bewältigen, können Start-ups und kleinere Unternehmen damit nicht umgehen. Hier braucht es eine differenzierte Herangehensweise, um die Last nicht nur auf die großen Unternehmen zu verteilen.

Weiss: Sie haben recht, die Konkretisierung der Regelungen ist wichtig. Es gibt viele abstrakte Formulierungen in Gesetzestexten, aber die Erwägungsgründe und die Normung, die auf europäischer Ebene entwickelt wird, sollen helfen, diese abstrakten Begriffe greifbarer zu machen. Dabei wird auch versucht, die Bedürfnisse der Wirtschaft zu berücksichtigen. Es gibt auch innovationsfördernde Maßnahmen, wie KI-Reallabore und spezielle Erleichterungen für kleine und mittlere Unternehmen, die den Druck etwas mildern sollen. Natürlich reichen diese Ansätze nicht immer aus, aber sie sind ein Anfang.

Nemat: Es bleibt abzuwarten, was wir letztlich aus der Regulierung machen. Ich denke, die Herausforderung liegt darin, eine Balance zu finden und die richtigen Prioritäten zu setzen.

Zingler: Über das Thema könnten wir noch lange sprechen, aber wir haben noch andere Karten auf dem Tisch.

Sind bestehende Datenschutzgesetze ausreichend für die Herausforderungen, die KI mit sich bringt?

Zingler: Das führt uns in die Frage der ethischen KI, die in Deutschland schon diskutiert wurde, bevor die Industrie wirklich existierte. Es ist eine wichtige Frage, weil die KI ja ihre Erkenntnisse aus Algorithmen und riesigen Mengen historischer Daten zieht. Doch diese Daten spiegeln die Welt wider, wie sie ist, mit all ihren Ungleichgewichten. Wenn man also ein System programmiert, das sich aus diesen historischen Daten speist, kommt es darauf an, wie wir die Welt und ihre Ungleichheiten heute sehen wollen.

Nemat: Das ändert sich ja auch ständig. Wenn KI auf Basis historischer Daten Entscheidungen trifft, besteht die Gefahr, dass Minderheiten, etwa bei der Personalauswahl, benachteiligt werden. Hier geht es darum, robuste KI zu schaffen, die sicherstellt, dass solche Entscheidungen nicht unfair sind. Ich möchte auch noch etwas hinzufügen: Bei uns gilt das Prinzip „Design for All“, das auch für KI wichtig ist. Es geht darum, Produkte und Tools so zu gestalten, dass sie für alle zugänglich sind, auch für Menschen mit Einschränkungen.

Zingler: Vielleicht noch ein kurzes Beispiel aus meiner Praxis: Wir haben ein System mit generativer KI entwickelt, das Websites und Onlineshops auf Barrierefreiheit prüft. Solche Prüfberichte gibt es zwar schon lange – aber sie sind oft sehr technisch und für Nicht-Informatiker schwer verständlich.

Wir haben festgestellt, dass diese Berichte deshalb oft ignoriert werden. Dabei erfüllen viele Websites in Deutschland die gesetzlichen Anforderungen zur Barrierefreiheit, die ab Juni verbindlich werden, noch immer nicht.

Deshalb übersetzen wir die Ergebnisse mithilfe von KI in Personas – also künstlich generierte Figuren mit verschiedenen Einschränkungen. Diese zeigen dann aus ihrer Perspektive, was auf der Website nicht funktioniert. Das macht die Probleme viel greifbarer und nachvollziehbarer – und zeigt direkt, was verbessert werden muss.

Weiss: Das ist spannend. Aber wie handhaben Sie den Fairness-Begriff in diesem Kontext? Es gibt ja so viele Ansätze, wie Fairness definiert werden kann – sei es Gruppen-Fairness oder individuelle Fairness.

Nemat: Ich glaube, es geht darum, sicherzustellen, dass niemand benachteiligt wird – egal welcher Herkunft, welchen Geschlechts oder welcher Behinderung. Aber wir haben auch eine Leistungskultur, die sich an den individuellen Fähigkeiten orientiert. Fairness bedeutet bei uns, dass jeder gleiche Chancen hat, ohne aufgrund von Merkmalen diskriminiert zu werden.

Zingler: Das ist nachvollziehbar. Aber für uns ist der rechtliche Rahmen genauso wichtig, um zu gewährleisten, dass alle fair behandelt werden. In den USA ist der Rechtsrahmen sehr unterschiedlich, aber auch dort ändern sich die gesellschaftlichen Normen schnell. Unternehmen, die sich an diese Normen anpassen, können in Schwierigkeiten geraten, wenn sich der gesellschaftliche Wind dreht.

Nemat: Ja, und für uns ist es wichtig, dass unsere Unternehmenswerte nicht kurzfristig geändert werden, nur weil sie gerade „en vogue“ sind. Wir bleiben unseren Prinzipien treu, auch wenn sich gesellschaftliche Strömungen ändern. Es geht nicht darum, die Gesellschaft zu erziehen, sondern ein klares Wertefundament zu haben, das über die Zeit Bestand hat.

Zingler: Absolut, das ist der richtige Ansatz.

Wie, glauben Sie, sieht die Welt mit KI in 50 Jahren aus?

Zingler: Die Frage, wie die Welt in 50 Jahren mit KI aussieht, ist schwer zu beantworten, denn aus meiner Historikerperspektive weiß ich, dass die Zukunft nicht vorhersehbar ist. Ich glaube auch, dass viele Probleme, die uns heute plagen, im Kern auf technische Probleme zurückzuführen sind. Daher bin ich der Meinung, dass wir diese Probleme mit Hilfe technologischer Veränderungen durch KI lösen können. Die größte Herausforderung liegt darin, wie wir mit den Menschen umgehen, deren Jobs durch Effizienzsteigerungen ersetzt werden. Die nächste industrielle Revolution wird große gesellschaftliche Veränderungen mit sich bringen. Diese Veränderungen sind schwer vorstellbar, ebenso wie die Erfindung des Autos zu einer Zeit, als Pferde das Fortbewegungsmittel waren.

Ich erinnere mich, wie wir bei Nokia 2007 über das iPhone lachten, weil es keine Tasten hatte – niemand konnte sich vorstellen, dass es die Telekommunikation revolutionieren würde. Genauso schwer ist es, die Arbeitswelt von morgen vorherzusagen. Genau wie damals werden wir überrascht werden.

Nemat: Ich stimme zu, dass wir die Zukunft nicht vorhersagen können, aber wir können sie gestalten. Besonders bei disruptiven Technologien wie KI haben wir die Möglichkeit, sie richtig zu nutzen oder zu verpassen. Ich sehe eine Zukunft, in der wir unser Verständnis von Leben, Arbeit und Care neu definieren. Menschen werden länger leben, und wir müssen lernen, immer wieder zwischen Arbeit und Lernen zu wechseln. Diese Veränderungen erfordern ein stärkeres empathisches Miteinander, das durch KI unterstützt werden könnte. Ich bin optimistisch, dass wir bessere Modelle für den Umgang mit KI entwickeln können, aber nur, wenn wir nicht zulassen, dass sie unsere Demokratien gefährdet.

Ein weiteres Problem ist, wie wir KI so gestalten, dass sie uns nützt, ohne grundlegende menschliche Fähigkeiten zu untergraben. Transparenz und Selbstbestimmung müssen gewährleistet sein, damit wir KI zu unserem Vorteil nutzen können, ohne dass sie in die falschen Hände gerät und Konflikte verschärft.

Weiss: Ich schließe mich der optimistischen Einschätzung an. Eine menschenzentrierte KI, die unseren Alltag erleichtert und nicht unsere grundlegenden Fähigkeiten gefährdet, ist möglich. Wir müssen sicherstellen, dass wir die Kontrolle behalten und KI verantwortungsbewusst einsetzen. Besonders die Transparenzproblematik, vor allem bei leistungsstarken KI-Systemen, ist ein großes Thema. Wir brauchen klare Erklärungen und ethische Grundlagen, um sicherzustellen, dass KI nicht zu einer Blackbox wird.

Nemat: Ein weiterer wichtiger Punkt ist, dass wir vermeiden sollten, dass eine extreme Machtkonzentration entsteht. KI könnte die gesellschaftliche Machtverteilung erheblich beeinflussen, und es wäre gefährlich, wenn nur wenige Akteure diese Technologie kontrollieren.

Zingler: Transparenz ist entscheidend, und wir müssen die Diskussion auch dann führen, wenn noch keine endgültigen Lösungen vorliegen. Die neueste Entwicklung im Bereich Open Source KI zeigt uns, dass es nicht immer die riesigen Investitionen braucht, um nützliche Anwendungen zu schaffen. Auch kleine Modelle können großes Potenzial entfalten, was in Europa spannend ist.

Nemat: In Europa gibt es bereits Unternehmen wie Mistral in Frankreich, Aleph Alpha und Black Forest Labs, die in diesem Bereich arbeiten. Diese Unternehmen setzen auf ressourcen–schonende Modelle, die effizienter sind und den Produktivitätsfaktor erheblich steigern. Dies stellt das Narrativ aus dem Silicon Valley infrage, dass nur große Konzerne diese Technologie beherrschen können.

Zingler: Ich finde es großartig, dass in Europa die Möglichkeit besteht, Open Source KI zu entwickeln, die weniger ressourcenintensiv ist. Dies könnte der europäischen Industrie den nötigen Schub geben, um in der KI-Welt konkurrenzfähig zu bleiben. Wir müssen uns von der Vorstellung verabschieden, dass nur die USA oder China die Zukunft der KI bestimmen.

Nemat: Es ist ermutigend zu sehen, dass auch in Europa Lösungen entstehen, die der großen Machtkonzentration entgegenwirken. Die neue Entwicklung, die wir in China sehen, zeigt, dass Open Source KI das Potenzial hat, die Kontrolle dezentraler zu gestalten und den Wettbewerb zu fördern.

Zingler: Das ist genau der Punkt – wir müssen sicherstellen, dass Europa eine starke Rolle in der KI-Entwicklung spielt. Die Fortschritte der letzten Wochen haben gezeigt, dass wir in der Lage sind, der Dominanz des Silicon Valley zu begegnen.

Nemat: Absolut. Es ist ein spannender Moment, und ich glaube, dass Europa hier eine echte Chance hat, mit innovativen Lösungen einen globalen Beitrag zu leisten. Ich nehme jetzt die nächste Karte.

Welche Jobs sehen Sie durch KI besonders gefährdet, und welche neuen Berufsbilder könnten entstehen bzw. sind bereits entstanden?

Nemat: Ein neues Berufsfeld, das definitiv entstanden ist, ist Prompt Engineering – also die Fähigkeit, die richtigen Fragen oder Beschreibungen an das System zu stellen, um bessere Antworten zu erhalten. Ich glaube, dass vor allem administrative Tätigkeiten im Management, Controlling sowie in der Bild- und Texterstellung durch KI ersetzt werden. Diese Tätigkeiten werden in meinen Augen definitiv wegfallen.

Weiss: Das wird natürlich auch Kapazitäten für andere Tätigkeiten freisetzen, auch innerhalb bestehender Berufsfelder. Ich denke, es geht nicht nur darum, ob ganze Berufsfelder verschwinden, sondern auch darum, dass bestimmte Aufgaben neu verteilt werden können.

Nemat: Genau, es verändert sich. Ein praktisches Beispiel: In Deutschland haben wir einen Fachkräftemangel. Wir verlegen jährlich 2,5 Millionen Glasfaseranschlüsse, aber es gibt nicht genügend Glasfaserplaner:innen. Ohne KI-basierte Trassenplanung könnten wir das nicht bewältigen. Ein anderes Beispiel: Unser Netz wird 50.000 Mal pro Minute angegriffen, und ohne KI-gesteuerte Mustererkennung könnten wir das nicht abwehren. Rollen in der Glasfaserplanung oder Cyber Defense gehen also nicht verloren, aber das Berufsfeld ändert sich. Ich bin überzeugt, dass 2030 nahezu jedes Berufsfeld irgendwie mit KI zu tun haben wird.

Zingler: Die Vorstellung, dass bestimmte Berufe verschwinden, führt in die falsche Richtung. Vielmehr wird der Job effizienter erledigt. Bei der Softwareentwicklung etwa gibt es viele Menschen, die Softwarecode verstehen und schreiben können, aber nicht auf der Architektenebene arbeiten. Das bedeutet nicht, dass wir keine Entwickler mehr brauchen, sondern dass ihre Aufgaben sich verschieben. Es wird weniger Handarbeit und mehr Architektur gefragt sein, und dafür brauchen wir weiterhin Menschen.

Kann die nationale und internationale Regulierung von KI mit der schnellen technologischen Entwicklung Schritt halten?

Weiss: Ich kann nur meine Einschätzung abgeben, basierend auf der KI-Verordnung. Diese ist bereits dynamisch konzipiert und berücksichtigt von vornherein Anpassungen. Das ist ein großer Vorteil im Vergleich zu vielen anderen europäischen Regulierungen.

Nemat: Da sind wir uns einig!

Weiss: Die KI-Verordnung bietet die Möglichkeit, Anpassungen vorzunehmen, etwa durch Delegationsakte der Kommission, wenn nötig. Insbesondere durch technische Standards und Normen wird es möglich sein, die Regulierung flexibel anzupassen. Ich glaube also, dass es machbar ist.

Zingler: Da wir Optimisten sind, schließen wir uns einfach Ihrer Einschätzung an, dass es gut wird.

Nemat: Genau! Regulierung muss in einer dynamischen Welt adaptiv sein, und ich denke, dieser risikoadaptive Ansatz in der Verordnung ist wirklich gut.

Zingler: Ich denke, es hätte schlechtere Modelle geben können als dieses.

Nemat: Am Anfang hatte ich auch große Sorgen, aber ich glaube, dieser Ansatz ist sehr vielversprechend.

Zingler: Wollen wir noch eine Karte nehmen?

Wie verändert KI die Art, wie Menschen miteinander kommunizieren und Informationen teilen?

Zingler: Ich denke nicht, dass KI primär dafür verantwortlich ist, die Art der Kommunikation zu verändern oder Informationen zu teilen. Natürlich verändert sich das Tool, über das wir kommunizieren, ständig. Statt jetzt Google zu nutzen, teilen wir Informationen in fünf Monaten vielleicht über ein ganz anderes Tool, das wir noch gar nicht kennen. Aber grundsätzlich glaube ich nicht, dass die Art der Kommunikation zwischen Menschen sich fundamental ändern wird. Die Tools, die wir nutzen, werden jedoch durch KI viel leistungsfähiger sein.

Nemat: Ich glaube, dass sich Menschen in der Vergangenheit oft stärker an die Technik angepasst haben, etwa durch Haltungsschäden beim Schauen aufs Smartphone. Aber jetzt glaube ich, dass die Möglichkeiten der KI es zulassen, dass sich Technologie stärker an den Menschen anpasst. Wenn das passiert, wäre es eine sehr gute Entwicklung der Technologie.

Weiss: Ein bestimmter Bereich der Kommunikation, wenn man ihn so bezeichnen möchte, ist jedoch stark betroffen – der Kunstbereich. Kunst ist eine besondere Form der Kommunikation, bei der sich der Künstler selbst ausdrückt. Hier erleben wir schon große Veränderungen, etwa bei den Debatten um generative Systeme, die als Hilfsmittel eingesetzt werden. Es geht um urheberrechtliche Fragen und die Frage, ob wir diese Werke überhaupt als Kunst anerkennen oder nicht. Das verändert sich gerade sehr stark.

Zingler: Urheberrechtlich auf jeden Fall. Das sind noch offene Fragen, aber ich glaube, der Kunstbegriff ist heute schon so weit, dass Technologie der letzten 20-30 Jahre, wie etwa Sampling, dieses Wiederaufbereiten von bereits bestehenden Schnipseln, längst üblich ist. Jetzt geht das noch viel besser. Es gibt eine Demokratisierung, wie Sie es gesagt haben – Wissen und Fähigkeiten werden zugänglicher. Man kann jetzt, ohne eine Musikausbildung zu haben, mit KI ganze Popsongs erstellen. Aber die Frage bleibt: Wer genau ist der oder die Urheber:in?

Nemat: Es braucht weniger Vorwissen, um erste gute Ergebnisse zu erzielen. Aber ich denke, es wird etwas anderes passieren: Wir neigen dazu, Technologie zu vermenschlichen. Das bedeutet nicht, dass die Technologie wirklich menschlich ist, aber sie wird in ihrer Mimik menschlicher wirken. Das wird auch dazu führen, dass Menschen eine Psychotherapie mit Chatbots oder einer KI wie ein Gespräch mit einem menschlichen Gegenüber betrachten. Welche Folgen das haben wird, kann ich noch nicht abschätzen, aber es wird sicherlich eine zunehmende Rolle spielen.

Weiss: Auch dieser Gefahr müssen wir begegnen, sollte sie drohen.

Welche Frage hätte die KI Ihnen noch stellen müssen, die heute gefehlt hat?

Nemat: Ich hätte mir jetzt die Frage gestellt: Hätte der mit KI gespeiste Avatar Claudia Nemat dieselben Antworten gegeben?

(Lachen)

Zingler: Und was wäre die Antwort gewesen?

Nemat: (Lachen) Ich bin froh, dass ich hier mit Ihnen sitze und wir uns von Mensch zu Mensch unterhalten.

Zingler: Wunderbar! Wollen wir‘s dabei belassen?

Nemat: Ich glaube, das war ein gutes Schlusswort, oder? Die Zeit ging sehr schnell rum!

¹ Die Diskussionsrunde wurde aufgezeichnet, von einer KI transkribiert und das Transkript schließlich von ChatGPT zu einem Artikel verarbeitet. Im Anschluss wurde dieser Entwurf redaktionell von KölnAlumni nachbearbeitet.

² KI-basierte Law Monitors automatisieren die regelmäßige Analyse von Rechtsquellen, identifizieren relevante Änderungen im Vergleich zu früheren Versionen und unterstützen juristische Fachkräfte durch intelligente Benachrichtigungen und Analysen.

³ Die KI-Verordnung (KI-VO) ist eine Verordnung der Europäischen Union, die darauf abzielt, den Einsatz von KI-Technologien sicherer und transparenter zu gestalten. Sie legt Regeln fest, um Risiken zu minimieren und das Vertrauen in KI-Systeme zu stärken. Die Verordnung unterscheidet zwischen verschiedenen Risikostufen beim Einsatz von KI-Systemen sowie unterschiedlichen Rollen von Unternehmen, die mit KI-Systemen befasst sind. Diese Klassifizierungen sind entscheidend, da sie die jeweiligen Pflichten gemäß der KI-VO festlegen.