OpenAI hat kürzlich ein innovatives KI-Tool namens Sora eingeführt, das in der Lage ist, kurze Videoclips aus Textaufforderungen zu erstellen und nun exklusiv für Abonnenten von ChatGPT Plus und Pro verfügbar ist. Diese Entwicklung markiert einen bedeutenden Fortschritt, da Sora zuvor nur einer ausgewählten Gruppe von Testern zur Verfügung stand und nun einem breiteren Publikum zugänglich gemacht wird. Mit dieser neuen Technologie tritt OpenAI in einen dynamischen Markt ein, auf dem auch andere Tech-Giganten wie Meta, Google und Stability AI ähnliche Tools zur Videogenerierung anbieten.
Die Anwendung von Sora und vergleichbaren Tools zur Videogenerierung ist jedoch nicht unumstritten und birgt besondere Herausforderungen, vor allem in Bezug auf die Möglichkeit des Missbrauchs zur Erstellung schädlicher oder irreführender Inhalte wie Deepfakes. OpenAI hat auf diese Bedenken reagiert und eine wichtige Schutzmaßnahme in Sora integriert: Nutzern ist es verboten, Videos basierend auf Fotos oder Videos realer Personen zu erstellen, um Urheberrechtsprobleme und Missbrauch zu vermeiden. Diese präventive Funktion wurde zunächst nur für eine begrenzte Nutzergruppe aktiviert, um aus den ersten Nutzungsmustern Schlüsse zu ziehen und das System fortlaufend zu optimieren.
In einem Interview betonte Will Peebles, Forschungsleiter für Sora bei OpenAI, die Bedeutung der Prävention illegaler Aktivitäten und die Notwendigkeit, ein Gleichgewicht zwischen kreativem Ausdruck und Sicherheit zu wahren. Damit stellt OpenAI klar, dass der Umgang mit der Gefahr von Deepfakes eine kontinuierliche Herausforderung darstellt. Um diese ernst zu nehmen, wurden strengere Moderationsstandards für Materialien eingeführt, die Personen unter 18 Jahren zeigen. So soll die Sicherheit und Integrität des neuen Werkzeugs gewährleistet werden.