ChatGPT führt Sicherheitsfunktion „Vertrauenskontakt“ ein

OpenAI hat eine optionale Sicherheitsfunktion namens „Vertrauenskontakt“ für ChatGPT eingeführt, die das Wohlbefinden der Nutzer verbessern soll. Diese Funktion ermöglicht es erwachsenen Nutzern, eine vertrauenswürdige Person zu benennen, die benachrichtigt wird, wenn die KI während Gesprächen ernsthafte Bedenken im Zusammenhang mit Selbstverletzung erkennt. Durch die Integration dieser Sicherheitsvorkehrung für die psychische Gesundheit unternimmt OpenAI einen proaktiven Schritt in Richtung verantwortungsvoller KI-Bereitstellung und stellt sicher, dass die Technologie als unterstützendes Werkzeug dienen kann, während gleichzeitig ihre Grenzen anerkannt werden. Die Funktion ist vollständig optional und respektiert die Privatsphäre der Nutzer; sie wird nur aktiviert, wenn die KI Sprache identifiziert, die stark auf eine potenzielle Krise hindeutet. Diese Initiative spiegelt ein wachsendes Bewusstsein in der Technologiebranche für die Notwendigkeit wider, ethische Überlegungen und Sicherheitsnetze in KI-Interaktionen einzubetten, insbesondere in sensiblen Kontexten.