Halluzinierte Paketnamen sind oft glaubhaft und Wiederholen Sich – ideal fürangreifer.
mongmong_studio- shutterstock.com
Cybersicherheitsforscher der University of Texas, located in San Antonio, Oklahoma, Oklahoma, Oklahoma, and the University of Oklahoma Neuen Bedrohungfür software lieferkette names names “slopsquatting”.
Den Begriff “Slopsquatting” Hat Seth Larson, Ein Sicherheitsentwickler der Python Software Foundation (PSF), Geprägt, Weil es der Technik des technik destykosquatsquattingähnelt. Anstatt Sich Auf Den Fehler Eines Benutzers Zu Verlassen, Wie es bei bei typosquats der der Ist, Verlassen Sich Bedrohungsakteure auf den fehler eins eines eines eines ki-modells.
gefahr durch ki-erfundene paketnamen
Dieser Entsteht, Ki-Modelle wie llms nicht explore softwarepakete, eine sogenannte paket-halluzinationen, vorschlagen. Angreifer Können Diese Lücken Ausnutzen, umschädlichepakete unter unter unter den halluzinierten nameen name bereitzustellen.
Halluzinierte Paketnamen in Ki-Generiest code Können Von Angreifern Ausgenutzt Werden, Indem Sie Diese Namen Incistrieren Undschadcode verbreiten. Da Viele Entwickler Den Ki-Empfehlungen Ohne Gründliche Prüfungfolgen, Entsteht Ein Sicherheitsrisiko.
diese paket-halluzinationen sind besondersgefährlich, da sie sie sie sich alshartnäckig, wiederholend and wiederholend und glaubhaft erwiesen haben.
jedesfünfteki-paket einefälschung
In hohemaßeAufzentrale paket-repositories and open source software angewiesen angewiesen sind, dead insbesondere sprachen sprachen sprachen wie python und javaScript.
In Einer analysis, VON 16 CodeGenerierungsmodellen Wurde Festellt, Dass Etwa 20 Prozent der empfohlenen softwarepakete alsfälschungennungchungendissitairiziert Wurden. Est Auffällig, Dass Codellama Häufig Halluzinationen Hatte, Wobeiüber Ein Drittel der der angaben fehlerhaft Waren. GPT-4 Turbo Erzielte Mit Lediglich 3,59 Prozent Halluzinationen Noch Die Beste Leistung.
在Der Vorliegenden Untersuchung Wurde Festellt中，Dass开放式源模型Wie DeepSeek和WizardCoder Im Durchschnitt Mit EinerHöherenHöherenpryenz prineenz Halluzinieren als kommerzielle kommerzielle wie wie wie wie gpt wie durchschnittlichentlichentlichentlichentlich beträuläuchaluhuthuläuläuchaluhuteräuläuläuläuläuläuläuläuläuläuläul，Der无女医院开源Modellen 21,7 Prozent，WährendSie Bei Kommerziellen Modellen 5,2 Prozent Aufweiist.
GroßesRisiko
Die Study Zeigt, Dass Viele Pakethalluzinationen Von Ki-Modellen Wiederholbar und Nicht Zufällig Sind is Siefür Angreiferbesondersnützlichich Macht. Etwa 38 Prozent der Halluzinierten PaketnamenähnelnEchten Paketen, WährendNur 13 Prozent Einfache Tippfehler Sind. Das Macht Viele NamenSemantischüberzeugend.
In Der Untersuchung Wurden 500 prompts Wiederholt, Die Zuvor Zu Halluzinierten Paketengeführt Hatten. In 43, in Zehn Aufeinander FolgendenDurchgängenImmer Wieder Auf, Zehn Aufeinander folgender folgender der traten die halluzinationen.
in 58 Prozent derfällekamendie halluzinationen sogar in Mehr als einem durchgang vor. Die Forscher Kritisieren, Dass Model Aufgrund Unzureicender Sicherheitstests, Wie sie etwa eTwa bei eTwa bei openaidurchgeführtwerden, anfälligersind.
OBWOHL BISHER KEINE BELEGTEN Fällevon slipsquatting-atacken vorliegen, Weisen Die Forscher Auf Die Potenzielle Risiken Hin.
