Die Einführung von ChatGPT Health als Unterstützung bei medizinischen Fragestellungen wirft grundlegende Fragen zur Zuverlässigkeit dieser Technologie auf. Eine aktuelle Studie hat besorgniserregende Ergebnisse geliefert, die darauf hinweisen, dass die Antworten von ChatGPT in kritischen Situationen nicht immer korrekt sind. Relevant ist in diesem Zusammenhang die Abwägung zwischen den Chancen, die KI im Gesundheitswesen bietet, und den potenziellen Risiken, die mit ihrer Nutzung verbunden sind. Es lässt sich derzeit beobachten, dass Nutzer:innen möglicherweise zu viel Vertrauen in die Empfehlungen der KI setzen, was im Ernstfall zu gesundheitlichen Risiken führen könnte. Eine abschließende Bewertung der Situation ist zum jetzigen Zeitpunkt verfrüht, da die Technologie noch in der Entwicklung ist und die Regulierung in den kommenden Monaten entscheidend sein wird. Es bleibt abzuwarten, wie sich die Integration von KI im Gesundheitsbereich weiter gestalten wird und welche Maßnahmen ergriffen werden, um die Sicherheit der Nutzer:innen zu gewährleisten.