Die jüngsten Äußerungen von Jacob Coxon, einem ehemaligen Forscher bei OpenAI und Anthropic, werfen ein Licht auf die potenziellen Gefahren, die von KI-Systemen ausgehen können. Coxon hat beide Unternehmen verlassen und wirft ihnen vor, wissentlich Risiken für die Menschheit einzugehen. Besonders alarmierend ist die Einschätzung seines Kollegen Evan Hubinger, der die Wahrscheinlichkeit, dass eine fehlgeleitete superintelligente KI innerhalb des nächsten Jahrzehnts die Menschheit auslöschen könnte, auf über zehn Prozent beziffert. Diese Aussagen sind Teil einer breiteren Diskussion über die ethischen und sicherheitstechnischen Herausforderungen, die mit der Entwicklung fortschrittlicher KI-Technologien verbunden sind. Relevant ist in diesem Zusammenhang die Frage, wie Unternehmen und Regulierungsbehörden auf diese Risiken reagieren werden. Eine abschließende Bewertung ist zum jetzigen Zeitpunkt verfrüht, da die Entwicklungen in der KI-Forschung und -Regulierung weiterhin dynamisch sind.