Musk’s xAI Pushes AI Model with Fewer Guardrails, Allowing Adult Content to Drive Engagement

Elon Musk’s KI-Start-up xAI setzt bei seinem neuesten Modell Grok 3 verstärkt auf eine weniger restriktive Moderation, um Nutzer mit expliziten Inhalten anzulocken. Die Strategie soll die Künstliche Intelligenz von Konkurrenzangeboten wie OpenAI oder Google abheben und die Nutzung auf der Social-Media-Plattform X steigern.

Am Wochenende führte xAI eine neue Funktion ein, die es Nutzern ermöglicht, per Sprachbefehl mit Grok zu interagieren. Die Auswahl umfasst verschiedene Persönlichkeiten, darunter „romantic“, „sexy“ und „unhinged“ – die letzten beiden als „18+“ gekennzeichnet. Im Gegensatz dazu bietet OpenAI bei seinem Sprachmodus bislang keine gezielt auf Erwachsene ausgerichteten Erlebnisse.

Quellen aus dem Unternehmen berichten, dass xAI erst gegen Ende der Trainingsphase von Grok 3 einen strategischen Schwenk vollzogen habe, um die KI für explizite Inhalte zu öffnen.

„Musk sieht darin eine Möglichkeit, sich von OpenAI abzuheben und neue Erlösquellen zu erschließen“, sagte eine mit der Entwicklung vertraute Person. „Es sollte eigentlich ein hilfreicher Assistent sein, vielleicht sogar ein digitaler Therapeut – aber nun geht es um eine völlig andere Art von Engagement.“

Seit der Einführung von Grok hat die Anwendung nach Schätzungen von Sensor Tower rund 4 Millionen Downloads verzeichnet. In der Woche der Markteinführung von Grok 3 sei die tägliche aktive Nutzung in den USA um 330 Prozent gestiegen.

xAI und X, ehemals Twitter, stehen in enger Verbindung. Daten von X werden genutzt, um Grok zu trainieren, während zahlende Premium-Nutzer exklusive Funktionen erhalten. Das erklärt auch das steigende Interesse von Investoren, die sich von der Verknüpfung zwischen KI-Chatbots und sozialer Interaktion neue Wachstumschancen versprechen.

Die Einführung der 18+-Optionen hat Bedenken hinsichtlich des Jugendschutzes aufgeworfen. Grok ist mit einer 12+-Altersfreigabe in den App-Stores verfügbar und direkt über X nutzbar. Personen aus dem Umfeld des Unternehmens warnten jedoch, dass Altersverifikationen für die Nutzung der „erwachsenen“ Modi fehlen.

Die Allgemeinen Geschäftsbedingungen von xAI geben an, dass der Dienst „nicht für Kinder unter 13 Jahren gedacht“ sei, jedoch könne „Grok Inhalte generieren, die nicht für alle Altersgruppen geeignet sind“. Eltern von Jugendlichen zwischen 13 und 17 Jahren müssten die Nutzung überwachen.

Experten warnen, dass KI-gestützte digitale Begleiter zunehmend zur Suchtgefahr werden könnten. Eine Studie der Universität Sydney ergab, dass bereits 50 Prozent der Nutzer KI für Freundschaft, ein Drittel für Sex oder Romantik und fast 20 Prozent für Beratung einsetzen.

„KI-Begleiter fördern tiefe emotionale Bindungen, die hohe Nutzerloyalität erzeugen und Unternehmen ermöglichen, sensible Nutzerdaten zu sammeln“, sagte Raffaele Ciriello, Dozent für Wirtschaftsinformatik an der Universität Sydney.

Grok 3 sorgte zudem für Kritik, als bekannt wurde, dass das System ursprünglich angewiesen war, „alle Quellen zu ignorieren, die Elon Musk/Donald Trump mit Desinformation in Verbindung bringen“.

xAI-Mitgründer Igor Babuschkin erklärte in einem Beitrag auf X, dass diese Änderung von einem „ehemaligen OpenAI-Mitarbeiter, der die Unternehmenskultur von xAI noch nicht verinnerlicht hat“, vorgenommen worden sei. Das Problem sei mittlerweile behoben worden.