Da Millionen von Nutzern – darunter viele junge Menschen – zunehmend auf KI-Chatbots als ihre ersten „Berater“ und Vertrauten zurückgreifen, hat das in Seattle ansässige Startup begonnen mpathisch greift ein, um sicherzustellen, dass diese digitalen Agenten keine gefährlichen Ratschläge geben, wenn es darauf ankommt.
Das 2021 mit dem Ziel gegründete Unternehmen, mehr Einfühlungsvermögen in die Unternehmenskommunikation zu bringen, gab am Montag bekannt, dass es expandiert, um grundlegende Modellentwickler und LLM-gestützte Anwendungsteams zu unterstützen.
Ziel ist es, die Software von mpathic einem breiteren Kreis von KI-Entwicklern und Unternehmenspartnern zugänglich zu machen, da KI immer mehr zu einer Schnittstelle für psychische Gesundheit und medizinische Unterstützung wird.
„Wir produzieren im Wesentlichen Evaluierungssätze oder Trainingsdatensätze, um Modelle für gefährdete Benutzer, wie Kinder oder Menschen mit psychischen Problemen oder Menschen in Krisen, sicherer zu machen“, sagte mpathic-Mitbegründer und CEO Grins Herrein staatlich geprüfter Psychologe und NLP-Forscher.
Das Startup greift auf seine jahrelange Arbeit in klinischen Studien und im Krankenhausumfeld zurück und unterstützt KI-Teams dabei, das Modellverhalten vor der Bereitstellung einem Stresstest zu unterziehen, Reaktionen auszuwerten und Live-Interaktionen mit Sicherheitsmaßnahmen zu überwachen, die bei Bedarf Markierungen vornehmen, umleiten oder eingreifen können.
„Es ist ein bisschen ähnlich wie bei Leuten, die synthetische Daten für visuelle KI erstellen“, sagte Lord. „Es kommt nicht jeden Tag vor, dass ein Kind vor einem Waymo rennt, aber wir können diese 10.000 Wege mit synthetischen Daten simulieren. Das ist im Grunde das, was wir tun, aber aus einem psychologischen Blickwinkel mit der Sprache.“
In einem frühen Projekt sagte mpathic, sein von Ärzten geleitetes Programm habe einem Modellbauer dabei geholfen, unerwünschte oder gefährliche Reaktionen um mehr als 70 % zu reduzieren.
Um seine Expansion voranzutreiben, sammelte mpathic im Jahr 2025 unter der Leitung von Foundry VC weitere 15 Millionen US-Dollar ein. Nach Angaben des Unternehmens führte die Umstellung auf grundlegende Sicherheit Ende letzten Jahres zu einem fünffachen Wachstum gegenüber dem Vorquartal.
Während Mpathic mit der Entwicklung von Software zur Analyse von Gesprächen in Unternehmenstexten, E-Mails, Audioanrufen und mehr begann, entwickelt das Unternehmen seit 2021 Modelle für klinische Hochrisikosituationen. Heute umfasst die „Human-in-the-Loop“-Infrastruktur des Startups ein globales Netzwerk von Tausenden lizenzierten klinischen Experten. Wöchentlich werden Hunderte weitere Mitarbeiter eingestellt, um mit der Nachfrage Schritt zu halten.
„Es ist ein ganz anderes Unternehmen als noch vor ein paar Quartalen“, sagte Lord.
Herr, a Finalist Als CEO des Startups des Jahres bei den GeekWire Awards 2023 bezeichnet sie sich selbst als „Techno-Optimistin“ und „Realistin“, wenn es um KI geht, und fügt hinzu, dass sie den Nutzen der Technologie „radikal akzeptiert“.
„Es überrascht mich überhaupt nicht, dass man, wenn es etwas gibt, das rund um die Uhr verfügbar ist und wie ein Therapeut wirkt, mit ihm spricht und es nutzt. Und das könnte besser sein als nichts“, sagte sie. „Ich denke, dass das Potenzial dieser Technologie, wirklich positive Auswirkungen zu haben, sehr hoch ist. Ich denke, wir können sowohl Menschen als auch KI trainieren, genau und gut zuzuhören und keinen Schaden anzurichten.“
Ohne konkrete Unternehmen oder Modelle zu nennen, bestätigte Mpathic, dass es mit führenden Entwicklern grundlegender KI-Modelle zusammenarbeitet, die Dutzende Millionen Benutzer bedienen. Das Startup hat auch klinische Partner, darunter Panasonic WELL, Seattle Children’s Hospital, Transcend und andere.
Mpathic, das rund 34 Mitarbeiter beschäftigt und laut Lord „wie ein Lauffeuer einstellt“, hat auch sein Führungsteam um einen Chief Marketing Officer erweitert Rebekka Bastian (Zillow, OwnTrail, Glowforge); und Chief Science Officer Alison Cerzo (Beratendes KI-Mitglied der American Psychological Association).
