Η Anthropic εντόπισε ομάδα στη βόρεια Υεμένη που χρησιμοποίησε το μοντέλο τεχνητής νοημοσύνης Claude για να υποστηρίξει την ανάπτυξη συστημάτων πυραύλων και ρουκετών, αναδεικνύοντας τις αυξανόμενες ανησυχίες για τη χρήση προηγμένης τεχνητής νοημοσύνης σε στρατιωτικά προγράμματα και από μη κρατικούς φορείς.
Σύμφωνα με την τελευταία έκθεση της εταιρείας για τον εντοπισμό και την αντιμετώπιση της κακόβουλης χρήσης τεχνητής νοημοσύνης, η οποία δημοσιεύθηκε την Πέμπτη, οι άγνωστοι μέχρι στιγμής δράστες εργάζονταν σε τρία προγράμματα ανάπτυξης όπλων.
Σε αυτά περιλαμβάνονταν μια κατευθυνόμενη ρουκέτα, ένας βαλλιστικός πύραυλος με δηλωμένη εμβέλεια άνω των 2.000 χιλιομέτρων και μια οικογένεια πυραύλων γνωστή ως R2000.
Η ομάδα που δραστηριοποιείται στην Υεμένη χρησιμοποίησε το Claude για την ανάπτυξη λογισμικού καθοδήγησης, πλοήγησης και ελέγχου, αναλαμβάνοντας ουσιαστικά μέσω της τεχνητής νοημοσύνης ορισμένες εργασίες που συνήθως εκτελούνται από μηχανικούς λογισμικού.
Σύμφωνα με την Anthropic, οι εμπλεκόμενοι φέρεται να μοίραζαν την εργασία μεταξύ πολλαπλών συνεδριών με το μοντέλο τεχνητής νοημοσύνης, ενώ απέκρυπταν τον στρατιωτικό χαρακτήρα των προγραμμάτων τους προκειμένου να αποφύγουν τον εντοπισμό.
Δοκιμή ρουκέτας
Η αποκάλυψη της Anthropic έρχεται καθώς οι υποστηριζόμενοι από το Ιράν Χούθι συνεχίζουν τις επιθέσεις με πυραύλους και drones εναντίον πλοίων στην Ερυθρά Θάλασσα, μια κρίσιμη θαλάσσια οδό για το παγκόσμιο εμπόριο.
Τις τελευταίες ημέρες, οι Χούθι έχουν προωθηθεί προς τις παράκτιες περιοχές της Ερυθράς Θάλασσας που συνορεύουν με το στρατηγικής σημασίας στενό Μπαμπ ελ Μαντέμπ, ενώ οι συγκρούσεις μεταξύ της οργάνωσης και των δυνάμεων της Υεμένης που υποστηρίζονται από τη Σαουδική Αραβία έχουν επίσης ενταθεί.
Η Anthropic ανέφερε ότι η ομάδα που εντοπίστηκε στην Υεμένη πραγματοποίησε δοκιμή ρουκέτας σε πραγματικές συνθήκες και στη συνέχεια ζήτησε τη βοήθεια του Claude για να διαγνώσει αυτό που φαινόταν να ήταν αποτυχημένη εκτόξευση.
Ωστόσο, η εταιρεία υπογράμμισε ότι δεν βρήκε στοιχεία πως η προσπάθεια οδήγησε στην ανάπτυξη επιχειρησιακού όπλου.
Η ομάδα είχε επίσης αναπτύξει εργαλεία προσομοίωσης που λειτουργούσαν εκτός σύνδεσης, επιτρέποντας τη συνέχιση τμημάτων της διαδικασίας ανάπτυξης των όπλων χωρίς συνεχή πρόσβαση στο Claude ή σε περιβάλλοντα λογισμικού μηχανικής.
Αποκλεισμός λογαριασμών
Η Anthropic ανακοίνωσε ότι απέκλεισε τους λογαριασμούς που συνδέονταν με τη συγκεκριμένη δραστηριότητα, μοιράστηκε πληροφορίες με συνεργάτες της και ενίσχυσε τα μέτρα ασφαλείας της μετά την ολοκλήρωση της έρευνας.
