KI so gefährlich wie nukleare Waffen? 3 Branchenexperten antworten

Sam Altman und andere hochrangige KI-Expert:innen haben diese Woche in einem offenen Brief vor den Risiken von künstlicher Intelligenz gewarnt. Was ist dran? Wir haben mit drei deutschen KI-Expert:innen gesprochen. Führende KI-Forscher:innen und CEO aus der Branche haben diese Woche vor den Risiken von künstlicher Intelligenz gewarnt, wie t3n berichtete. In dem offenen Brief vergleichen sie KI mit nuklearen Waffen. „Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, heißt es in dem kurzen Statement, das auf der Website des Center for AI Safety zu finden ist. Unterzeichnet wurde es von mehr als 350 KI-Expert:innen, unter anderem OpenAI-CEO Sam Altman, Deepmind-CEO Demis Hassabis sowie Anthropic-CEO Dario Amodei. Auch Geoffrey Hinton und Joshua Benigo finden sich unter den Unterzeichner:innen. Die beiden KI-Forscher wurden 2018 mit dem Turing Award ausgezeichnet und gelten als „godfathers“ moderner KI. Das Statement der Expert:innen sei mit einem Satz absichtlich kurz gehalten und drücke lediglich das Problem aus, keine Lösungsansätze, sagt Dan Hendrycks, Geschäftsführer des Center for AI Safety, gegenüber der New York Times. Wir haben drei deutsche KI-Expert:innen um ihre Einschätzung gebeten. Annika Mutius – Gründerin von Empion [caption id="attachment_1555753" align="aligncenter" width="620"] Annika von Mutius, Gründerin von Empion. (Foto: Empion)[/caption] Annika von Mutius ist studierte Mathematikerin und hat im Jahr 2021 gemeinsam mit Co-Gründerin Larissa Leitner das HR-Tech-Unternehmen Empion gegründet. Im Rahmen einer Pre-Seed-Finanzierungsrunde konnten die beiden bereits 2,4 Millionen Euro an Kapital von namhaften Investor:innen aus dem HR-Bereich raisen. Den Algorithmus hat die 29-Jährige selbst geschrieben. Zu dem offenen Brief von Sam Altman und Co sagt sie: „Dass KI mit Naturkatastrophen gleichgesetzt wird, ist nicht nur falsch, sondern bestärkt eine ohnehin bereits ausufernde Antipathie gegenüber der Anwendung von KI-Systemen. Das ist mehr als bedenklich, wo doch KI die transformierende Kraft des Jahrhunderts zu werden scheint und der verantwortungsbewusste Umgang damit im Vordergrund stehen sollte.“ Ihr zufolge seien die Forderungen nach Regulierung der KI-Grundlagenforschung nicht nur unrealistisch, sondern eine Behinderung jeglicher Innovationstreiber. „Wenn wir die Entwicklungsstufen von KI betrachten (Level 0 = keine KI-Anwendung, Level 4 = KI mit Selbstwahrnehmung), befinden wir uns aktuell maximal zwischen Level 0 und 1. Das heißt, wir sind nicht nur weit von der Entwicklung einer KI mit eigenem Bewusstsein entfernt, wir kennen nicht mal einen plausiblen Entwicklungspfad dorthin. Und dennoch denken wir bereits über die Regulierung eines Systems nach, das vielleicht im nächsten Jahrzehnt relevant werden könnte“, sagt Mutius. Die Tendenz zur Überregulierung sei in Europa ein wiederkehrendes Muster (siehe DSGVO) und „ein herber Schlag für all jene, die seriöse KI-Systeme für ein ökonomisch wettbewerbsfähiges Europa entwickeln“. „Wir stellen uns hier die falsche Frage.“ – Annika von Mutius „Ich finde, wir stellen uns hier die falsche Frage“, sagt Mutius. „Es sollte nicht darum gehen, wie wir Entwicklung einschränken, sondern darum, wie wir Manipulationssysteme erkennen und verhindern können. Denn wir alle – in der Forschung, in der Entwicklung und in der Anwendung – wünschen uns seriöse und diskriminierungsfreie KI-Systeme.“ Als Mitgründerin eines KI-Startups empfinde Mutius es als besonders bedauerlich, dass die Debatte um KI so negativ geprägt ist und dabei die positiven Seiten übersehe. „Der große Nutzen liegt doch darin, dass wir erstmalig Zugang zum gesammelten Erfahrungswissen der Menschheit erlangen. Und das ist eine riesengroße Chance, kein Grund zum Schüren von Ängsten“, sagt Mutius. Janette Wiget – CFO von Merantix [caption id="attachment_1534733" align="aligncenter" width="620"] Janette Wiget, Vorstandsmitglied von Merantix. (Foto: Merantix / Jana Schoelzel)[/caption] Janette Wiget ist Chief Financial Officer und Vorstandsmitglied von Merantix, dem weltweit ersten KI-Company-Builder, sowie Mitgründerin des AI Campus Berlin, einem Co-Working- und Collaboration-Hub für künstliche Intelligenz (KI), der über 640 Mitglieder zählt. Laut Wiget müsse man die jüngsten Aussagen von Big Tech zur Regulation von KI mit großer Vorsicht genießen – insbesondere mit Blick auf das „Doomsday-Szenario“, KI stelle ein Risiko zur Auslöschung der Menschheit dar. Sie sagt: „Neben dem PR-Effekt sehe ich vor allem den Versuch von Google, Microsoft und Co., sich gegenüber politischen Entscheidungsträgern als unentbehrliche Stakeholder zu positionieren.“ Die Message sei: ‚Wir sind die einzigen, die das volle und potenzielle Ausmaß dieser Technologie verstehen. Deshalb müsst ihr uns einbinden.‘ [crosslinks ids="1539395,1555663,1555466"] „Ich sehe dahinter den Versuch, KI-Regulierung in eine Richtung zu lenken, die dem eigenen Zweck dient und Wettbewerber schwächt. Wenn Big Tech so viel Angst vor KI hätte, würde OpenAI dann nicht ChatGPT sofort einstellen müssen?“, sagt Wiget. Der Ansatz von Merantix ist, die Verantwortung für sichere und solide KI-Systeme auf Task Forces oder den privaten Sektor zu übertragen. Dort liege dann die Aufgabe, dass die Übereinstimmung von KI-Technologien mit ethischen und Sicherheitsstandards gewährleistet wird. So soll ein flexibler und anpassungsfähiger Rahmen entstehen, der mit dem raschen technologischen Fortschritt Schritt halten kann. „Um Innovationen zu fördern und Startups im Bereich der generativen KI zu unterstützen, muss die EU einen Regulierungsansatz in Betracht ziehen, der Risikominderung mit Flexibilität und einem unterstützenden Umfeld in Einklang bringt“, sagt Wiget. „Durch eine enge Zusammenarbeit mit Startups, Branchenexperten und relevanten Interessenvertretern kann die EU einen Rechtsrahmen entwickeln, der den einzigartigen Herausforderungen der generativen KI gerecht wird und gleichzeitig ein Ökosystem fördert, das Innovationen begünstigt und sogar einen Wettbewerbsvorteil für europäische Startups in diesem Bereich schaffen könnte." Sebastian Bluhm – CEO von Plan D [caption id="attachment_1536581" align="aligncenter" width="620"] Sebastian Bluhm, CEO von Plan D. (Foto: Plan D)[/caption] Sebastian Bluhm ist Mitglied im KI-Bundesverband und CEO der Technologieberatung Plan D. Mit ihm haben wir bereits Ende Februar ein spannendes Gespräch darüber veröffentlicht, wie KI die Politik beeinflussen wird. Zu dem offenen Brief der KI-Expert:innen sagt Bluhm: „Neue Technologien, wie der aktuell rasante Fortschritt von Large Language Models (LLM), werden zu Beginn oft kritisch beäugt. Als Technologie- und KI-Optimist finde ich es gut, dass KI-Wissenschaftler:innen und Branchengrößen diese Herausforderungen ernst nehmen, warne jedoch auch vor einem endlosen Science-Fiction-Diskurs. Vielmehr muss unsere Branche die konkreten Bedrohungen, wie die Zunahme von Desinformationen, klar benennen und Lösungen anbieten.“ Aus seiner Perspektive sei nicht allein die Technologie die Gefahr, sondern der Einsatz in den falschen Händen. „Eine autonome KI, die autark handelt und Menschen gefährdet, halte ich mehr für Utopie als Realität“, sagt Bluhm.