Verlust der Kontrolle über KI: Forschende warnen vor extremen Risiken

Es sind verstörende Zukunftsvisionen führender Wissenschaftler. Die Forderung: Die Entwicklung Künstlicher Intelligenz müsse kontrolliert werden, um ihr Eintreten zu verhindern.

Es sind sachlich gehaltene Formulierungen in einem Meinungsartikel über Künstliche Intelligenz (KI), der vor dem am Dienstag in Seoul beginnenden zweiten KI-Sicherheitsgipfel in der Zeitschrift „Science“ erschienen ist. 25 Fachleute nennen „weitreichende soziale Schäden, böswillige Anwendungen und den unumkehrbaren Verlust der menschlichen Kontrolle“ als Risiken weiterer, unkontrollierter Entwicklungen der KI-Systeme.

In begleitenden Statements werden sie anschaulicher: Die Autoren warnen vor möglichen Folgen, die bis zur Etablierung totalitärer Unterdrückungssysteme und zur Auslöschung der Menschheit reichen.
Diese Umorientierung ist bereits überfällig.
Verfassergruppe eines Science-Meinungsbeitrags zur Kontrolle Künstlicher Intelligenz
„KI macht rasante Fortschritte und Unternehmen verlagern ihren Schwerpunkt auf die Entwicklung von KI-Systemen, die autonom handeln und Ziele verfolgen können“, schreiben die Forschenden. Politische Entscheidungsträger weltweit müssten die Risiken zur Kenntnis nehmen und mehr tun, um die Menschheit vor ihnen zu schützen.

„Ich glaube, dass die Vorteile der KI die Nachteile überwiegen werden, wenn wir vorsichtig vorgehen“, wird Mitverfasser Philip Torr vom Fachbereich Ingenieurwissenschaften der Universität Oxford in einer Mitteilung der Universität zitiert. Aber nach dem Experten für KI bestehe die Gefahr, dass Unternehmen und Industrie mit KI Daten schnell verarbeiten und die Gesellschaft kontrollieren könnten. „Wir könnten in eine Orwell’sche Zukunft abrutschen, in der eine Art totalitärer Staat die vollständige Kontrolle hat“, sagt Torr.

Weiterlesen:

https://www.tagesspiegel.de/wissen/verlu...n-11687462.html