Aktuelles
Digital Eliteboard - Das Digitale Technik Forum

Registriere dich noch heute kostenlos, um Mitglied zu werden! Sobald du angemeldet bist, kannst du auf unserer Seite aktiv teilnehmen, indem du deine eigenen Themen und Beiträge erstellst und dich über deinen eigenen Posteingang mit anderen Mitgliedern unterhalten kannst! Zudem bekommst du Zutritt zu Bereichen, welche für Gäste verwehrt bleiben

Registriere dich noch heute kostenlos, um Mitglied zu werden! Sobald du angemeldet bist, kannst du auf unserer Seite aktiv teilnehmen, indem du deine eigenen Themen und Beiträge erstellst und dich über deinen eigenen Posteingang mit anderen Mitgliedern unterhalten kannst! Zudem bekommst du Zutritt zu Bereichen, welche für Gäste verwehrt bleiben

Hardware & Software Apple deckt KI-Täuschung auf: Intelligenz nur oberflächliche Illusion

Du musst Regestriert sein, um das angehängte Bild zusehen.
Sind KI-Systeme wirklich intelligent oder nur gut imitierende Technologien?
Eine neue Studie von Apple-Forschern wirft Zweifel an der Fähigkeit von Sprachmodellen auf, logisches und mathematisches Denken zu bewältigen.
Durch einen simplen Trick können ChatGPT und ähnliche Modelle leicht in die Irre geführt werden.

Apple enthüllt Schwächen von KI: Mangel an Logik und Verstand

Iman Mirzadeh und sein Team von Apple haben die Leistung großer Sprachmodelle wie ChatGPT genauer untersucht.
Mithilfe eines verbesserten Benchmarks namens GSM-Symbolic demonstrierten sie die Grenzen dieser KI-Systeme.
Die Forscher stellten den Modellen Hunderte von Fragen, die diese normalerweise problemlos lösen sollten.

Der entscheidende Trick, der alle KI-Systeme ins Wanken brachte, war das Hinzufügen irrelevanter Informationen oder das Ändern von Zahlenwerten in den Fragen.
Diese zusätzlichen, nicht relevanten Daten führten dazu, dass die Sprachmodelle falsche oder sogar unsinnige Antworten lieferten, obwohl sie zuvor richtig geantwortet hatten.

Besonders bemerkenswert war, dass das Hinzufügen eines einzigen scheinbar relevanten Satzteils zu einer Frage die Leistung aller getesteten Modelle um bis zu 65% verringerte, selbst wenn dieser Teil für die Lösung der Aufgabe nicht von Bedeutung war.

Die Studie zeigte zudem, dass die Leistung der KI-Systeme erheblich abnahm, wenn die Anzahl der Satzteile in einer Frage zunahm.
Dies lässt vermuten, dass KI-Systeme die gestellten Fragen nicht wirklich verstehen, sondern lediglich aufgrund erlernter Muster antworten.

Die Forscher veröffentlichten ihre Ergebnisse auf dem Preprint-Server arXiv unter dem Titel "GSM-Symbolic:
Understanding the Limitations of Mathematical Reasoning in Large Language Models".
Diese Erkenntnisse zeigen, dass LLMs nicht tatsächlich in der Lage sind, logisch und mathematisch zu denken.

Die Studie wirft wichtige Fragen zur Fähigkeit von KI-Systemen auf, nuancierte Informationen zu verarbeiten.
Die Forscher schlussfolgern, dass die scheinbar intelligenten Antworten größtenteils eine Täuschung sind.
LLMs können zwar korrekt erscheinende Antworten liefern, sind in Wirklichkeit jedoch fehlerhaft.

Die Erkenntnisse von Apple bieten wichtige Einblicke in die tatsächlichen Fähigkeiten und Grenzen von KI-Systemen im Bereich des mathematischen und logischen Denkens.
Sie betonen die Notwendigkeit, die Leistung von LLMs kritisch zu hinterfragen und an der Verbesserung ihrer echten Verständnis- und Denkfähigkeiten zu arbeiten.

Es scheint, dass die Zweifel an der wahren Intelligenz von KI-Systemen gerechtfertigt sind, und die Forschung muss weiterhin daran arbeiten, diese Technologien zu verbessern.
 
Größte Nachteil von KI ist, und es wird bleiben, dass die nicht Neues generieren kann.

Die kann nur auf existierende Datenbanken zugreifen.

Zb. Forschung, Musik komponieren, neue Energiegewinnungsmöglichkeiten usw.

Dass es eine Hilfe in vielen Hinsichten ist, kann man nicht widersprechen.
 
letztendlich gibt es eigentlich keine KI , für mich als jahrzehntelangem ITler ist es halt ein Computer der geballtes Wissen gespeichert hat und schnell an die gewünschten Informationen herankommt. Und wie oben der @spielertyp schon erwähnte auf den Algorithmus, der wiederum auch eingegeben werden muss.
Wenn in der gespeicherten Datenmenge Fehler sind bzw. falsche Angaben, bekommt dann der Nutzer auch falsches Ergebnis.
Man könnte so die Geschichte manipulieren oder die gewünschten Ergebnisse nach bestimmten Gusto steuern.
Ich sehe der KI Geschichte extrem skeptisch gegenüber, sie wird und quasi als neue Gottheit verkauft die angeblich alles weiß

wenn man heute Bilder sieht die von KI stammen, ja klar hat der Rechner nach Befehlen des Nutzers ein Bild geschaffen, schneller vielleicht als früher mancher Adobe Photo Shop Profi.
Aber nur deshalb weil ihm diese riesigen Daten Mengen zur Verfügung stehen.
Und man darf nicht vergessen dass dieses KI Rechenzentren so viel Energie verbrauchen wie Kleinstädte. Für Microsoft hat/wird man in USA wieder ein Kernkraftwerk in Betrieb genommen wo schon stillgelegt war.

Ich denke BLACKROCK nutzt auch den Superrechner Aladin, der natürlich auch Wahrscheinlichkeitsprognosen erstellen kann, dessen Fähigkeiten bedienen sich auch noch andere Kräfte jenseits des großen Teiches. Man kann schon einiges mit diesen Rechnern "vorrausberechnen" aber eben nicht alles..
Deshalb sind wir ja zu gläsernen Menschen geworden weil die Superrechner Daten brauchen um zu existieren. Deshalb gibt es facebook und Whatsapp / Google usw. So kann man komplette Gesellschaftsabbilder im Rechner implementieren und Verhaltensweisen auswerten.
Das Ganze wäre ja nicht schlecht wenn diese Daten zum Wohle des Planeten und der Flora und Fauna eingesetzt werden würden, aber leider wird diese Macht heute schon missbraucht zum Wohle einzelner Globalisten.

Grüße Jarap
 
und die sogenannte Künstliche Intelligenz bekommt ja dann auch solche Daten von den Fahrzeugherstellen:

Mozilla: Moderne Fahrzeuge sind ein „Datenschutz-Albtraum“

Tja die KI kann dann womöglich auswerten wie viel Orgasmen es bei Opel gab und wie viele bei Toyota ...sehr gut..

also wenn es geht deaktiviert den ganzen Assistenzmist (so habe ich es auch gemacht) oder kauft euch einen Oldtimer.
Die Autos von heute sind für mich auf jeden Fall unbrauchbar.
Von mir aus können alle Hersteller dicht machen, ich kaufe kein neues Auto mehr. Alles nur Mist wo einen zwingt in die Werkstatt zu fahren um euch dort zu berauben..
 
Die Studie von Apple zeigt, dass Sprachmodelle wie ChatGPT Probleme haben, wenn sie mit zusätzlichen oder veränderten Informationen konfrontiert werden. Das bedeutet, dass sie die Fragen nicht wirklich verstehen, sondern nur auf Muster reagieren, die sie gelernt haben.

Aktuelle KI-Systeme sind also eher wie fortschrittliche Werkzeuge, die auf großen Datenmengen basieren. Sie können Muster erkennen, aber sie sind nicht wirklich intelligent oder kreativ. Ihre Antworten hängen stark von den Daten ab, auf denen sie trainiert wurden.

Die Forschung in diesem Bereich steckt noch in den Kinderschuhen, und es gibt viel Potenzial für Verbesserungen. Es ist wichtig, die Grenzen der aktuellen Technologien zu verstehen und daran zu arbeiten, sie zu überwinden.
 
KI mag ja in mancher Hinsicht hilfreich sein, aber verleitet irgendwie dazu, das eigene Denken abzuschalten ...:rolleyes:
 
Die Dinger arbeiten auch politisch in Richtung Backbord
 
Zurück
Oben