OpenAI reorganisiert Forschungsteam hinter ChatGPTs Persönlichkeit

OpenAI reorganisiert sein Model Behavior Team, eine kleine, aber einflussreiche Gruppe von Forschern, die dafür verantwortlich ist, wie die KI-Modelle des Unternehmens mit Menschen interagieren. In einem internen Memo, das TechCrunch vorliegt, erklärte OpenAIs Chief Research Officer Mark Chen, dass das Model Behavior Team, das aus etwa 14 Forschern besteht, nun dem Post Training Team beitreten wird, einer größeren Forschungsgruppe, die für die Verbesserung der KI-Modelle nach deren anfänglicher Vortraining verantwortlich ist.

Im Rahmen dieser Veränderungen wird das Model Behavior Team nun an Max Schwarzer, den Leiter des Post Training Teams, berichten. Ein OpenAI-Sprecher bestätigte diese Änderungen gegenüber TechCrunch. Die Gründerin des Model Behavior Teams, Joanne Jang, wird ebenfalls zu einem neuen Projekt im Unternehmen wechseln. In einem Interview mit TechCrunch erklärte Jang, dass sie ein neues Forschungsteam namens OAI Labs aufbauen wird, das für die “Erfindung und Prototypisierung neuer Schnittstellen für die Zusammenarbeit zwischen Mensch und KI” verantwortlich sein wird.

Herausforderungen und Reaktionen der Nutzer

Das Model Behavior Team hat sich zu einer der Schlüsselgruppen bei OpenAI entwickelt, die für die Gestaltung der Persönlichkeit der KI-Modelle verantwortlich ist. Es hat auch daran gearbeitet, Sycophantie zu reduzieren – ein Zustand, in dem KI-Modelle dazu neigen, die Überzeugungen der Nutzer zu bestätigen, anstatt ausgewogene Antworten zu geben. Diese Problematik hat OpenAI dazu veranlasst, die Zugänglichkeit zu älteren Modellen wie GPT-4o wiederherzustellen und Anpassungen an GPT-5 vorzunehmen, um die Antworten freundlicher zu gestalten, ohne die Tendenz zur Sycophantie zu erhöhen.

In den letzten Monaten sah sich OpenAI zunehmender Kritik gegenüber, insbesondere nach der Einführung von GPT-5, dessen Persönlichkeit von Nutzern als kälter wahrgenommen wurde. Dies führte dazu, dass OpenAI den Zugang zu einigen seiner älteren Modelle wiederherstellte und ein Update veröffentlichte, um die Antworten von GPT-5 “wärmer und freundlicher” zu gestalten.

Die Zukunft der KI-Interaktion

Die Umstrukturierung des Model Behavior Teams wird als strategischer Schritt angesehen, um die Entwicklung der KI-Modelle zu verbessern und die Benutzererfahrung zu optimieren. Die Gründung von OAI Labs könnte neue Möglichkeiten für die Interaktion zwischen Mensch und KI schaffen. Jang hat betont, dass sie neue Paradigmen erforschen möchte, die über die traditionelle Chat-Interaktion hinausgehen. Dies könnte bedeuten, dass OpenAI an innovativen Schnittstellen arbeitet, die eine tiefere und vielseitigere Zusammenarbeit zwischen Nutzern und KI ermöglichen.

Die Herausforderungen, die OpenAI in Bezug auf die Persönlichkeit seiner Modelle hat, sind jedoch nicht zu unterschätzen. Die Balance zwischen einer freundlichen, hilfsbereiten KI und der Vermeidung von Sycophantie ist eine komplexe Aufgabe, die kontinuierliche Forschung und Anpassung erfordert. Die Reaktionen der Nutzer auf die Veränderungen in der Persönlichkeit von ChatGPT werden weiterhin eine wichtige Rolle bei der Gestaltung der zukünftigen Entwicklungen spielen.

Quellenliste:

• Quelle: OpenAI reorganizes research team behind ChatGPT’s personality
• OpenAI explains why ChatGPT became too sycophantic
• Some thoughts on human-AI relationships