Wissenschaft
Konfabulation statt Halluzination
An dieser Stelle ist in Ausgabe 09/2023 der große Physiker Arnold Sommerfeld schon einmal mit folgendem Satz zitiert worden, „In der Natur nimmt die Entropie die Rolle der Direktorin ein, die Energie aber nur die einer Buchhalterin“ (wobei das Original den Direktor und den Buchhalter als Männer angesprochen hat, was heute...
Wissenschaft
Feintuning kann KI-Fehlverhalten fördern
Große KI-Sprachmodelle wie ChatGPT sind normalerweise so programmiert, dass sie unethische und gefährliche Antworten vermeiden. Werden sie allerdings dazu gebracht, bei eng umgrenzten Aufgaben gegen ihre Werterichtlinien zu verstoßen, übertragen sie das Fehlverhalten auch auf ganz andere Bereiche. Eine Studie zeigt: Wird eine KI...