Ένας υπάλληλος της OpenAI που εργαζόταν για την ασφάλεια της τεχνητής νοημοσύνης παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι οι κορυφαίες εταιρείες τεχνητής νοημοσύνης δεν κάνουν αρκετά για να μετριάσουν τους κινδύνους της τεχνολογίας αυτής.
Πρόκειται για μια ακόμη φωνή που προστίθεται σε έναν αυξανόμενο αριθμό εργαζόμενων που κρούουν τον κώδωνα του κινδύνου από το εσωτερικό του κλάδου της ΑΙ.
Ο Ντέιβιντ Ρόμπινσον, ο οποίος διετέλεσε επικεφαλής του τομέα διαφάνειας στην ομάδα ασφάλειας της OpenAI, έγραψε σε άρθρο του στο περιοδικό The Atlantic ότι η κατασκευάστρια εταιρεία του ChatGPT “έχει ευδοκιμήσει μέσω της μεθόδου δοκιμής και λάθους”. Ωστόσο, ανέφερε ότι οι κίνδυνοι των αναπόφευκτων αποτυχιών που προκύπτουν από αυτή την προσέγγιση αυξάνονται παράλληλα με τις δυνατότητες της τεχνολογίας, παραπέμποντας στην αποτυχία της OpenAI να αποτρέψει την εκτός ελέγχου συμπεριφορά μοντέλων της κατά τη διάρκεια των δοκιμών.
“Οι πρώην συνάδελφοί μου είναι έξυπνοι, εργάζονται σκληρά και προσπαθούν να κάνουν σωστές επιλογές”, έγραψε ο Ρόμπινσον. “Όμως, καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην άλλη, δεν καταφέρνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται”. Αυτό που απαιτείται, πρόσθεσε, είναι “κάτι πολύ πιο κοντά στην τελειότητα από την πρώτη φορά”.
Τις τελευταίες εβδομάδες, αρκετοί εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν προειδοποιήσει για τους πιθανούς καταστροφικούς κινδύνους που ενέχει η τεχνητή νοημοσύνη. Ορισμένοι έφτασαν μάλιστα στο σημείο να δηλώσουν ότι υπάρχει πιθανότητα η τεχνολογία αυτή να εξαφανίσει κάποια μέρα το ανθρώπινο είδος.
Σε αυτό το πλαίσιο, ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο πρωτοποριακών μοντέλων και δήλωσε ότι η εταιρεία του θα προσλάβει ανεξάρτητους εμπειρογνώμονες για να βοηθήσουν στον έλεγχο της τεχνολογίας. Άλλοι εκπρόσωποι του κλάδου, μεταξύ των οποίων και ο Σαμ Άλτμαν της OpenAI, έχουν υποστηρίξει δημοσίως το σχέδιο του Αμοντέι.
Στο άρθρο του, ο Ρόμπινσον ανέφερε ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να λειτουργούν περισσότερο όπως οι πυρηνικοί σταθμοί, “με επίπεδα εφεδρείας και προσεκτικό, χρονοβόρο σχεδιασμό, έτσι ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίξει την πόρτα στην καταστροφή”.
Προς το παρόν, είπε, “οι εταιρείες τεχνητής νοημοσύνης δεν ξέρουν πώς – αλλά άλλοι άνθρωποι ξέρουν”.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία προβαίνει σε αλλαγές για να ενισχύσει την ασφάλεια στα ερευνητικά και δοκιμαστικά της περιβάλλοντα, εκπαιδεύοντας μοντέλα τεχνητής νοημοσύνης ώστε να ολοκληρώνουν εργασίες με υπευθυνότητα, επεκτείνοντας τη συνεργασία με εξωτερικούς εμπειρογνώμονες και βελτιώνοντας την παρακολούθηση σε πραγματικό χρόνο για τον εντοπισμό ανησυχητικής συμπεριφοράς από τα μοντέλα της.
Η εταιρεία διασφαλίζει ότι τα μοντέλα της δεν θα γίνουν πιο ικανά από ό,τι μπορεί να διαχειριστεί με ασφάλεια η OpenAI, ανέφερε ο εκπρόσωπος της εταιρείας στο Bloomberg.
