Hardware & Software Geheimhaltung um jeden Preis: Microsoft bringt Ingenieur zum Schweigen über KI-Gefahr

An KI wird immer weiter geforscht.
Kürzlich wies ein Manager von Microsoft jedoch auf eine Gefahr innerhalb von DALL-E hin und wurde davon abgeschreckt, weiter zu reden.

Immer mehr Menschen können die Hilfe von KI bei ihrer Arbeit in Anspruch nehmen und sie damit leichter machen.
Die Firma, die den Vorsprung in Sachen KI hat, ist OpenAI.
Diese ist für ChatGPT und DALL-E verantwortlich.

Als ChatGPT auf den Markt kam und der breiten Masse zur Verfügung gestellt wurde, war das Erstaunen groß.
Die textbasierte KI ist darauf programmiert, mit Hilfe von schneller Recherche in der eigenen Datenbank eigenständig Texte zu formulieren.
DALL-E hingegen ist in der Lage, auf der Basis von wenigen Worten ein Bild eigenständig zu generieren.
Hierfür liegt dem bildbasierten KI-Modell ebenfalls eine eigene Datenbank zur Verfügung.
Doch nicht alles ist an den KIs positiv.
Jetzt wies ein Manager bei Microsoft auf eine Gefahr von DALL-E hin.

Hiervor wird bei DALL-E gewarnt​

Wie

Du musst dich Anmelden oder Registrieren um diesen link zusehen!

berichtete, versuchte der Ingenieur Shane Jones über die Risiken und Gefahren der dritten Version von DALL-E aufzuklären.
In dieser sei es nämlich durch ein Sicherheitsleck möglich, explizite und/oder gewalttätige Bilder zu generieren.
Auf LinkedIn postete er im Dezember 2023 öffentlich einen Brief, in welchem er vor den Gefahren warnt.

Nachdem Microsoft angeblich versuchte, den Ingenieur zum Schweigen zu bringen (ein Manager soll von ihm verlangt haben, den Post zu löschen), dieser sich aber nicht unterkriegen ließ, beschloss Shane Jones, sich ans Kapitol zu wenden.
In seinem

Du musst dich Anmelden oder Registrieren um diesen link zusehen!

an den US-Senator Patty Murray schrieb er unter anderem:

Du musst dich Anmelden oder Registrieren um den Inhalt der Angebote zu sehen!

So gefährlich könnte ein solches Sicherheitsleck sein​

Eine solche Sicherheitslücke kann weitreichende Konsequenzen haben, nicht nur bei Bildern.
Beispielsweise Deepfakes, also Videos, die Dinge zeigen und Personen sprechen lassen, die so nie stattgefunden haben.
Auch können sogenannte Deepfake-Pornos erstellt werden.
Hierbei wird eine künstliche Intelligenz mit verschiedenen Bildern von Gesichtsausdrücken einer Person gefüttert.
Dann soll die künstliche Intelligenz diese Ausdrücke auf das Gesicht einer anderen Person in einem Porno-Video einfügen.

Dies wird häufig dazu genutzt, um Deepfake-Pornographie mit berühmten Personen zu erstellen.
Am meisten davon betroffen sind weibliche Stars.
So auch vor kurzem US-Sängerin Taylor Swift.
Über sie wurden explizite und falsche Bilder erstellt.
Die große Fanbase Taylor Swifts und auch Social-Media-Plattformen wie X waren in der Lage, die weitere Verbreitung zu verhindern; eine nachhaltige Lösung stellt dies natürlich aber nicht für das Problem dar.


Quelle: GIGA

 

[bebe]

Der Titel passt ja nicht ganz. Sollte wohl eher :" ..... wollte Ingeniuer zum Schweigen bringen." heißen.

 

[Reiner123]

ist doch vollkommen klar, die Büchse der Pandora ist geöffnet. Die Geister die ich rief, sind nicht mehr, oder nur schwer einzufangen. Da die Menschheit insgesamt immer dümmer wird, ist nichts gutes zu erwarten.