BSI besorgt: Neues Anthropic KI-Modell zum Suchen von Sicherheitslücken bedroht Cybersicherheit

[HWL News Bot]

Das Bundesamt für Sicherheit in der Informationstechnik sieht in neuen KI-gestützten Werkzeugen zur Schwachstellensuche ein potenzielles Risiko für die Cybersicherheit. Anlass ist ein vom US-Unternehmen Anthropic entwickeltes Modell namens Claude Mythos, das gezielt verborgene Sicherheitslücken in Software identifizieren kann.
... weiterlesen

 

[Zyxx]

Es gab und gibt in den letzten Jahren immer mehr Projekte die unter KI generierten Fehlermeldungen ächzen.
Erst Anfang des Jahres hat Curl Alarm geschlagen da KI generierte "schlechte" Reports zu einer Überlastung der Maintainer führten.

No curl bug bounty​

The curl project does not offer any rewards for reported bugs orvulnerabilities. We do not aid security researchers to get such rewards forcurl problems from other sources.
A bug bounty gives people too strong incentives to find and make up "problems"in bad faith that cause overload and abuse.
We still appreciate and value valid vulnerability reports.

Quelle

Das soll nicht heißen das ich die News herabwürdige, aber das Problem das hier beschrieben wird ist nicht neu.
Wir bekommen bspw. auch TONNEN an Fehlermeldungen die aus gefuzztem halluziniertem Salat und Fehlermeldungen bestehen, die oft nichtmals mit unseren Produkten zu tun haben.
Was da an Lebenszeit verbrannt wird...

Wenn Anthropic das nun von der Qualität her auf ein neues Level hebt, ist das ein dicker Win für Entwickler.

Lesenswert hierzu auch ein Artikel von Golem:

Golem

 

[Rudi Ratlos]

Dazu zählen unter anderem Unternehmen wie Apple, Amazon und Microsoft sowie Organisationen aus dem Sicherheitsumfeld. Diese sollen die KI nutzen, um eigene Systeme frühzeitig auf Schwachstellen zu überprüfen und entsprechende Gegenmaßnahmen zu entwickeln.

..oder die Lücken anderer für sich zu behalten, um sie auszunutzen? Stichwort Wannacry?

 

[Bitmaschine]

Mein erster Gedanke war, dass das KI-Programm Schwachstellen im System herausfindet, alles sicherer macht, schneller ist, als die kriminelle Energie die Schwachstellen herausfindet. Eigentlich ja gut.
Seit Trump mit Gefolgsleute und starke Einflüsse in Sicherheitsministerien, innen wie außen, und seine Ablehnung gegenüber Europa ist die Sicherheit in Europa wirklich gefährdet. Ich will es nicht verallgemeinern, es gibt solche und solche Amerikaner, aber ich traue ihnen zunehmend nicht mehr. Wie schnell plötzlich eine geschichtliche Freundschaft fragil werden kann. Das erschreckt mich persönlich ein wenig.
CEOs und Präsidenten wechseln ständig, die Geschichte lehrt uns aber, das leider nichts ewig (friedlich und freundschaftlich) bleibt.
Von daher finde ich es gut, dass es bzgl. nationale und europäische Sicherheit einfach die amerikanische KI hinterfragt wird, ob es ein Unsicherheitsfaktor ist. Vertrauen ist gut, Kontrolle ist besser. In diesem Fall ist Vertrauen schädlich.

 

[Rudi Ratlos]

Ich frage mich nur, warum man jetzt erst damit anfängt, und "Trump" dafür als Argument bringt. Das genannte Wannacry war Anfang 2017 und basierte auf einem NSA-Tool, das offiziell seit mindestens 5 Jahren benutzt worden war. Also zur Amtszeit von Obama. Ebenso Prism und die weltweite Spionage der USA und ihrer "Verbündeten", welche Edward Snowden 2013 aufdeckte.

Nicht mißverstehen, ich begrüße es, wenn man jetzt endlich mal nachdenkt. Besser spät als nie. Aber die Motivation hinterfrage ich.

War das jetzt schon wieder zuviel Politik im Politikthema?