When patterns in the dataset are aligned with the goal of the task at hand, a strong learner being able to recognize, remember, and generalize these patterns is desirable. But if the patterns are not what we're actually interested in, then they become cues and shortcuts that allow the model to perform well without understanding the task.
To prevent the Clever Hans effect, we hence need to aim for datasets without spurious patterns, and we need to assume that a well-performing model didn't learn anything useful until proven otherwise.
Schlagwort: KI
Wronderstanding.
Wahnsirinn.
Denn wenn die Maschine, deren Teil Siri ja ist, nicht eine riesige Menge an Daten eingefüttert bekommt, kann sie nicht lernen, dass das phonetisch gleichklingende „Kot“ in bestimmten Kontexten graphemisch als „Code“ zu schreiben ist. Künstliche Intelligenz halt. Das findet ihr doch alle so geil!
Mal sehen wie lange noch.
Beruhigend, dass es zumindest in der Tagesschau noch sogenannte künstliche Intelligenz heißt.