Die Verwendung offener Gewichte in KI-Sprachmodellen wird oft als ein Schritt in Richtung Transparenz und Sicherheit angesehen. Neueste Entwicklungen zeigen jedoch, dass diese Datensätze potenziell gefährliche Sicherheitslücken aufweisen. Ein innovatives kryptografisches Verfahren hat aufgezeigt, dass sich in diesen offenen Gewichten unbemerkt vollständige Funktionen integrieren lassen, die bei der Nutzung nicht sofort erkennbar sind. Diese Erkenntnis wirft Fragen zur tatsächlichen Sicherheit und Integrität solcher Modelle auf. Relevant ist in diesem Zusammenhang die Abwägung zwischen den Vorteilen der Transparenz und den damit verbundenen Risiken. Eine abschließende Bewertung dieser Thematik ist zum jetzigen Zeitpunkt verfrüht, da weitere Untersuchungen notwendig sind, um die Implikationen für die Branche zu verstehen.