Beschreibung
Die Verwendung unerwünschter Ergebnisse (z. B. ungenauer, unangemessener und benutzerdefinierter Inhalte) zu Umschulungszwecken kann zu unerwartetem Modellverhalten führen.
Warum ist eine unsachgemäße Umschulung ein Problem für Stiftungsmodelle?
Die Wiederverwendung von generiertem Output für das erneute Training eines Modells ohne angemessene menschliche Überprüfung erhöht die Wahrscheinlichkeit, dass unerwünschter Output in die Trainings- oder Tuning-Daten des Modells aufgenommen wird. Dieses Modell kann wiederum zu noch mehr unerwünschten Ergebnissen führen.
Modellzusammenbruch aufgrund von Training mit KI-generierten Inhalten
Wie im Quellenartikel erwähnt, untersuchte eine Gruppe von Forschern aus Großbritannien und Kanada das Problem der Verwendung von KI-generierten Inhalten für die Ausbildung anstelle von vom Menschen generierten Inhalten. Sie stellten fest, dass die großen Sprachmodelle hinter der Technologie potenziell auf anderen KI-generierten Inhalten trainiert werden könnten. Da sich die generierten Daten weiterhin massenhaft im Internet verbreiten, kann dies zu einem Phänomen führen, das sie als "Modellkollaps" bezeichnet haben
Übergeordnetes Thema: AI-Risikoatlas
Wir stellen Beispiele vor, die von der Presse abgedeckt werden, um viele der Risiken der Fundamentmodelle zu erklären. Viele dieser Ereignisse, die von der Presse abgedeckt werden, entwickeln sich entweder noch weiter oder wurden gelöst, und ihre Bezugnahme kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Minderungen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient nur zur Veranschaulichung.