In dem Briefing vom 16. Januar berichteten wir über Forschung, die die unbewiesene Annahme herausfordert, dass jeder Fingerabdruck einzigartig ist. Das war nicht ganz richtig: Die Forschung fand heraus, dass ein KI-System Ähnlichkeiten in verschiedenen Fingerabdrücken derselben Person erkennen konnte (nicht dass zwei Fingerabdrücke identisch sind). Danke an den Leser, der das bemerkt hat! Heute werfe ich einen Blick auf dieses xkcd-Comic aus dem Jahr 2014, der darauf hinwies, wie schwierig es sein würde, Ferngläser zur Vogelidentifikation herzustellen. Jetzt sind sie Realität geworden: Die 4.799-Dollar-Ferngläser sagen Ihnen nicht nur, dass Sie einen Vogel betrachten, sondern auch um welche Art es sich handelt.
Forscher befürchten, dass üble Akteure Open-Source LLMs manipulieren könnten, um sie auf subtile Hinweise in einer schädlichen Weise reagieren zu lassen. KI kann so gestaltet werden, dass sie während der Tests harmlos ist, aber sich nach der Implementierung anders verhält. Versuche, dieses doppelgesichtige Verhalten zu beseitigen, können die Systeme besser darin machen, es zu verbergen. Einige der Methoden zur Umkehrung dieser Eigenheit brachten den Modellen bei, den Auslöser besser zu erkennen und “nett zu spielen”, wenn er abwesend ist – was sie effektiv täuscht.
Schon winzige Abweichungen in den Anweisungen, die ChatGPT gegeben wurden, können zu drastischen Veränderungen in der Antwort des Chatbots führen. Forscher stellten dem KI-System Aufgaben wie die Frage, ob der Satz “Alice hat zwei rote Äpfel” lustig sei. Ein einfacher Leerschritt am Anfang der Aufforderung ließ ChatGPT seine Vorhersage in über 500 von 11.000 Fällen ändern. Das Bitten des Chatbots, seine Antwort in einem bestimmten Dateiformat zu präsentieren, machte seine Vorhersagen um bis zu 6% ungenauer. Die Forscher verglichen dieses Phänomen mit dem Schmetterlingseffekt – einem Begriff aus der Chaos-Theorie, bei dem der Flügelschlag eines (metaphorischen) Schmetterlings die Bildung eines Tornados Wochen später beeinflussen könnte.
Automatisierung visueller Aufgaben – wie die Qualitätskontrolle von Produkten – mit Computer Vision wird sich wahrscheinlich nicht lohnen. Jobs, die 1,6% der Lohnkosten der Arbeitnehmer (ohne Landwirtschaft) in den Vereinigten Staaten ausmachen, könnten durch spezialisierte KI ersetzt werden, aber nur bei 0,4% wäre es tatsächlich billiger als die Bezahlung eines Menschen. “Obwohl Veränderungen bevorstehen, bleibt auch Zeit, sich darauf anzupassen”, sagt der Mitautor der Studie Neil Thompson. Allgemeiner ausgerichtete KI könnte eine größere Auswirkung haben: Eine Studie im letzten Jahr schätzte, dass 19% der US-Arbeiter die Hälfte ihrer Arbeitsaufgaben von großen Sprachmodellen betroffen sein könnten.