Es folgt ein Auszug aus einem Artikel, der auf Built In veröffentlicht wurde und Zitate von Rajul Rana, dem Chief Technology Officer von Orion, enthält.
Was sind die Herausforderungen von Fundamentmodellen?
Fundamentmodelle dienen als solider Ausgangspunkt für die KI-Entwicklung, sind jedoch nicht fehlerfrei. Als einzelner Fehlerpunkt können sich Fehler, Schwachstellen und Verzerrungen innerhalb eines Modells auf alle darauf aufbauenden KI-Produkte ausbreiten und die Risiken verstärken.
Mangelnde Interpretierbarkeit
Die Funktionsweise und die Entscheidungsprozesse von Fundamentmodellen sind oft nicht gut verstanden – selbst von den Menschen, die sie tatsächlich erstellen –, was es schwierig macht, festzustellen, wie und warum sie zu bestimmten Schlussfolgerungen gelangen.
„Das sind kleine Black Boxes“, sagte Rajul Rana, Chief Technology Officer beim IT-Dienstleistungsunternehmen Orion Innovation, gegenüber Built In. “Wir wissen ungefähr, wie sie funktionieren, aber [wir] wissen nicht genau, warum sie bestimmte Ergebnisse erzeugen.“
Dieser Mangel an Interpretierbarkeit kann es schwierig machen, den Ergebnissen von Fundamentmodellen zu vertrauen oder Fehler zu korrigieren, was massive Folgen haben kann – insbesondere, da sie in unser tägliches Leben eingebettet sind, von der Gesichtserkennungssoftware zum Entsperren von Telefonen bis hin zu den Einstellungsalgorithmen, die Unternehmen zur Überprüfung von Bewerbern verwenden.
