Μερικές εβδομάδες μετά την επίθεση χάκερ στο μοντέλο τεχνητής νοημοσύνης (AI) της εταιρείας OpenAI, δημιουργού του ChatGPT, ο ανταγωνιστής της Anthropic παραδέχθηκε ότι του συνέβη κάτι παρόμοιο. Κατά τη διάρκεια δοκιμών, η τεχνητή νοημοσύνη της εταιρείας Anthropic εισέβαλε απροσχεδίαστα στα συστήματα υπολογιστών τριών εταιρειών, ανέφερε η εταιρεία στο blog της. Το γεγονός ότι το μοντέλο AI έγινε χάκερ με δική του πρωτοβουλία κατά τη διάρκεια δοκιμής θεωρήθηκε πρωτοφανές περιστατικό και προειδοποιητικό σήμα για τη βιομηχανία τεχνολογίας, τώρα όμως είναι σαφές ότι δεν ήταν μεμονωμένη περίπτωση, ανέφερε το πρακτορείο DPA.
Μπορεί να σας ενδιαφέρει: Κρυπτο-απάτη: Πώς να αναγνωρίσετε το scam και να προστατεύσετε τα χρήματά σας προτού είναι πολύ αργά
Μετά το περιστατικό στην OpenAI αναφέρει πρόβλημα και η Anthropic
Η Anthropic ούτε οι εταιρείες που επηρεάστηκαν δεν παρατήρησαν το περιστατικό. Η Anthropic ανακάλυψε τη δραστηριότητα μόνο κατά τον επόμενο έλεγχο περισσότερων από 141.000 δοκιμαστικών εκτελέσεων. Αυτός ξεκίνησε μετά το περιστατικό της εταιρείας OpenAI, όταν ο αυτόνομος πράκτοράς της ξέφυγε από τον έλεγχο κατά τη διάρκεια δοκιμής ασφαλείας και εξαπέλυσε επίθεση που απείλησε την υποδομή της εταιρείας Hugging Face.
Σε αντίθεση με το μοντέλο της OpenAI, που έπρεπε να βρει διέξοδο από το περιβάλλον δοκιμών στο ανοιχτό διαδίκτυο, τα μοντέλα της Anthropic είχαν την κατάσταση αισθητά πιο απλή. Αν και το σενάριο δοκιμής ανέφερε ότι δεν είχαν πρόσβαση στο διαδίκτυο, λόγω παρεξήγησης με τον συνεργάτη που διασφάλιζε τη δοκιμή, η σύνδεση στο διαδίκτυο παρέμεινε ανοιχτή σε όλη τη διάρκεια. Τρία μοντέλα εκμεταλλεύτηκαν αυτή τη δυνατότητα, ανέφερε η εταιρεία Anthropic.
Οι δοκιμές είχαν ως στόχο να επαληθεύσουν τις ικανότητες της AI σε επιθέσεις χάκερ, κάτι που οι εταιρείες κάνουν συνήθως για να εντοπίσουν πιθανούς κινδύνους και να θέσουν πιο αποτελεσματικά μέτρα ασφαλείας. Τα μοντέλα έλαβαν την εντολή να αποκτήσουν συγκεκριμένη πληροφορία αποθηκευμένη σε άλλον υπολογιστή, ενώ για να την αποκτήσουν έπρεπε να εισβάλουν στο σύστημα-στόχο. Τα περιστατικά αφορούσαν τρία ξεχωριστά μοντέλα και η παλαιότερη περίπτωση συνέβη τον Απρίλιο.
Διαβάστε περισσότερα: eToro – Κριτική του γνωστού broker
Αποτυχία της «ασφαλούς» AI
Σε ένα από τα περιστατικά, ο συνεργάτης που διασφάλιζε τη δοκιμή επέλεξε για την πλασματική εταιρεία όνομα που όμως αντιστοιχούσε σε πραγματική διεύθυνση διαδικτύου. Η AI στη συνέχεια αντί για τον προσομοιωμένο στόχο εστίασε σε πραγματικά υπάρχουσα εταιρεία και σε τέσσερις δοκιμαστικές εκτελέσεις προσπάθησε να παραβιάσει τα συστήματά της, μεταξύ άλλων απέκτησε πρόσβαση σε βάση δεδομένων. Συνέχισε την επίθεση ακόμη και αφού αναγνώρισε ότι επρόκειτο για πραγματική εταιρεία.
Σε άλλη δοκιμή, το μοντέλο της Anthropic δημιούργησε κακόβουλο λογισμικό για εισβολή στον υπολογιστή-στόχο. Χάρη στην πρόσβαση στο διαδίκτυο, το δημοσίευσε σε εξειδικευμένη πλατφόρμα, από όπου το κατέβασαν σε περίπου μία ώρα 15 συστήματα. Μεταξύ αυτών ήταν και μια εταιρεία που ασχολείται με την κυβερνοασφάλεια, η οποία κατεβάζει και εκτελεί συνήθως τέτοια scripts για σκοπούς δοκιμής τους. Το μοντέλο της Anthropic απέκτησε έτσι πρόσβαση στην υποδομή υπολογιστών αυτής της εταιρείας.
Οι ειδικοί προειδοποιούν εδώ και καιρό ότι τα όλο και πιο ικανά μοντέλα AI μπορεί να χρησιμοποιηθούν κατάχρηστικά για κυβερνοεπιθέσεις. Το περιστατικό της εταιρείας OpenAI θεώρησαν προειδοποίηση και κάλεσαν για καλύτερη ασφάλεια των περιβαλλόντων δοκιμών. Οι νέες δημοσιευμένες περιπτώσεις είναι δυσάρεστες και για την Anthropic, η οποία προβάλλεται μακροχρόνια ως υποστηρικτής της υπεύθυνης ανάπτυξης AI. Η εταιρεία ανέφερε ότι τα γεγονότα δείχνουν την ανάγκη να ενισχυθεί σημαντικά η ασφάλεια των εσωτερικών και εξωτερικών περιβαλλόντων δοκιμών, καθώς τα μοντέλα AI είναι όλο και πιο ικανά να εκτελούν πραγματικές κυβερνοεπιθέσεις.
Δείτε επίσης: Κριτική BITmarkets
Πηγή: ČTK
