OpenAI übernimmt Promptfoo, um die KI-Sicherheit zu verbessern: Ein Game-Changer für Fortune 500 Unternehmen
OpenAI hat die Übernahme des Startups Promptfoo angekündigt, das auf die Sicherheit von KI-Systemen spezialisiert ist. Der Deal wurde auf dem offiziellen Blog des Unternehmens gemeldet. Nach Abschluss der Transaktion werden Promptfoos Technologien in die OpenAI Frontier Plattform integriert — eine Unternehmenslösung für die Erstellung und Verwaltung von KI-Agenten.
Was ist bekannt
Promptfoo wurde 2024 von Ian Webster und Michael D'Angelo gegründet. Das Unternehmen entwickelt Werkzeuge, die helfen, große Sprachmodelle (LLM) auf Schwachstellen zu testen und sie vor Angriffen oder Manipulation zu schützen. Zu den Produkten des Startups gehört eine offene Schnittstelle und Bibliothek für System-Sicherheitsüberprüfungen. Laut Unternehmen werden seine Lösungen von über 25 % der Fortune 500 Unternehmen genutzt.
Die Entwicklung autonomer KI-Agenten, die in der Lage sind, digitale Aufgaben ohne menschliches Eingreifen zu erfüllen, weckt erhebliches Geschäftsinteresse aufgrund potenzieller Produktivitätssteigerungen. Gleichzeitig schaffen solche Systeme neue Risiken: Angreifer könnten versuchen, auf vertrauliche Daten zuzugreifen oder automatisierte Prozesse zu beeinflussen. Deshalb investieren Unternehmen, die mit fortschrittlichen KI-Modellen arbeiten, aktiv in Schutztechnologien.
Nach der Integration der Technologien von Promptfoo wird die OpenAI Frontier Plattform in der Lage sein, automatisch sogenannte „Red-Teaming“-Tests durchzuführen — Systeme auf potenzielle Angriffe zu prüfen, die Arbeitsabläufe von KI-Agenten auf Sicherheitsrisiken zu bewerten und Aktivitäten zur Einhaltung der Vorschriften zu überwachen. OpenAI gab auch an, dass sie planen, die offenen Tools von Promptfoo weiterzuentwickeln.
Der Wert des Deals wird nicht bekanntgegeben. Laut PitchBook hat das Startup seit seiner Gründung rund 23 Millionen US-Dollar an Investitionen eingesammelt, und nach einer Finanzierungsrunde im Juli 2025 wurde es mit etwa 86 Millionen US-Dollar bewertet.
Quelle: OpenAI
