Anzeige
Anzeige
Für Links auf dieser Seite erhält GIGA ggf. eine Provision vom Händler, z.B. für mit oder blauer Unterstreichung gekennzeichnete. Mehr Infos.
  1. GIGA
  2. Tech
  3. Digital Life
  4. ChatGPT außer Kontrolle? Forscher warnen vor neuer Gefahr

ChatGPT außer Kontrolle? Forscher warnen vor neuer Gefahr

Forscher warnen vor einem KI-Durchbruch bei OpenAI.IMAGO / NurPhoto)

Die Hintergründe der Entlassung und Neueinstellung des OpenAI-Chefs kommen langsam ans Licht. Kurz bevor Sam Altman seinen Hut nehmen musste, warnten Forscher in einem Brief an den Vorstand vor einem bahnbrechenden, aber potenziell gefährlichen KI-Durchbruch.

ChatGPT: Forscher warnen vor KI-Durchbruch

Bei der überraschenden Entlassung von OpenAI-CEO Sam Altman soll ein Brief von Forschern eine zentrale Rolle gespielt haben. Dieser enthalte Warnungen vor einer wichtigen Entdeckung im KI-Bereich, die möglicherweise sogar die Menschheit bedrohen könnte. Im Mittelpunkt steht das interne Projekt Q*, das sich eigentlich nur mit mathematischen Aufgaben beschäftigen soll.

Anzeige

Dass es ein Projekt Q* überhaupt gibt, hat OpenAI nur indirekt bestätigt, ohne weitere Informationen nach außen zu geben. Ein Insider berichtet jedoch, dass Q* wohl ein Meilenstein auf dem Weg zur künstlichen allgemeinen Intelligenz (AGI) sein könnte. Die Fähigkeiten sollen weit über die heutiger KI-Modelle hinausgehen (Quelle: Reuters).

Ein zentraler Aspekt bei der Entwicklung von Q* soll die Fähigkeit sein, mathematische Probleme selbstständig zu lösen. Heutige KI-Modelle sind kompetent in der Texterstellung und -übersetzung, haben aber zum Teil schon bei einfachsten mathematischen Aufgaben Probleme.

Anzeige

Im Gegensatz zu einem Taschenrechner, der auf vorprogrammierte Operationen beschränkt ist, soll Q* gelernt haben, Probleme zu verallgemeinern und diese dabei grundsätzlich zu „verstehen“. Das könnte einen großen Fortschritt für die KI-Forschung insgesamt bedeuten.

Als Alternative zu ChatGPT bietet sich Google Bard an:

Google Bard: So sieht die neue KI-Suche aus
Google Bard: So sieht die neue KI-Suche aus

Sam Altman kündigt KI-Fortschritte an

Sam Altman war maßgeblich daran beteiligt, ChatGPT zu einer der am schnellsten wachsenden Anwendungen zu machen. Er sicherte dem Unternehmen auch wichtige Investitionen und Ressourcen von Microsoft, um die Entwicklung von OpenAI voranzutreiben. Bei einem kürzlich abgehaltenen Gipfeltreffen deutete Altman selbst an, dass bedeutende Fortschritte in der KI-Technologie bevorstehen.

Anzeige

Hat dir der Beitrag gefallen? Folge uns auf WhatsApp und Google News und verpasse keine Neuigkeit rund um Technik, Games und Entertainment.

Anzeige