Συναγερμός για την AI: Η Anthropic μιλά για «υπαρξιακούς κινδύνους» – Η OpenAI «κόβει» νέο μοντέλο για λόγους ασφαλείας

Δύο σχεδόν ταυτόχρονες εξελίξεις από κορυφαίες εταιρείες Τεχνητής Νοημοσύνης επαναφέρουν με ένταση τη συζήτηση για τους κινδύνους που μπορεί να συνοδεύουν την ταχύτατη ανάπτυξη ολοένα ισχυρότερων συστημάτων AI.
Από τη μία πλευρά, η Anthropic προειδοποιεί τους υποψήφιους επενδυτές της ακόμη και για «υπαρξιακούς κινδύνους για την ανθρωπότητα» από την εξέλιξη της τεχνολογίας. Από την άλλη, η OpenAI αποφάσισε να μη διαθέσει το GPT-6.1 Astra, καθώς το νέο μοντέλο δεν πέρασε τα πρότυπα ασφαλείας που είχε θέσει η εταιρεία.
Η προειδοποίηση της Anthropic
Σύμφωνα με τους Financial Times, η Anthropic συμπεριέλαβε τις ιδιαίτερα σοβαρές προειδοποιήσεις στο ενημερωτικό υλικό που έχει κοινοποιήσει σε περιορισμένο αριθμό συνεργατών στο πλαίσιο της προετοιμασίας της για εισαγωγή στο χρηματιστήριο.
Η εταιρεία πίσω από το Claude αναφέρεται, μεταξύ άλλων, στο ενδεχόμενο προηγμένα μοντέλα Τεχνητής Νοημοσύνης να εμφανίσουν απρόβλεπτες ή ανεπιθύμητες συμπεριφορές, καθώς οι δυνατότητές τους αυξάνονται.
Οι επισημάνσεις αποκτούν ιδιαίτερη βαρύτητα καθώς προέρχονται από μία από τις ίδιες τις εταιρείες που πρωταγωνιστούν στην ανάπτυξη των ισχυρότερων συστημάτων AI παγκοσμίως.
Την ίδια ώρα, τα οικονομικά μεγέθη που συνοδεύουν την ανάπτυξη της συγκεκριμένης τεχνολογίας είναι τεράστια. Σύμφωνα με το ίδιο δημοσίευμα, η Anthropic σχεδιάζει υποχρεώσεις ύψους 518 δισ. δολαρίων για cloud, υπολογιστική ισχύ και άλλες υποδομές τα επόμενα χρόνια.
Η OpenAI σταματά το GPT-6.1 Astra
Σχεδόν ταυτόχρονα ήρθε ακόμη μία εξέλιξη από την OpenAI.
Η εταιρεία αποφάσισε να μην προχωρήσει στην προγραμματισμένη διάθεση του GPT-6.1 Astra, καθώς οι δοκιμές ασφαλείας έδειξαν ότι το μοντέλο δεν ανταποκρινόταν στα απαιτούμενα πρότυπα ευθυγράμμισης και τήρησης των ορίων που του τίθενται.
Η εξέλιξη έχει ιδιαίτερο ενδιαφέρον επειδή το προηγούμενο GPT-6 Astra έχει ήδη χαρακτηριστεί από την ίδια την OpenAI ως το πρώτο μοντέλο της που φτάνει στο «Κρίσιμο» επίπεδο δυνατοτήτων κυβερνοασφάλειας σύμφωνα με το δικό της Preparedness Framework. Η εταιρεία αναφέρει ότι, με τα κατάλληλα εργαλεία και πρόσβαση, το μοντέλο μπορεί να εντοπίζει άγνωστα κενά ασφαλείας και να αναπτύσσει τρόπους εκμετάλλευσής τους, γι’ αυτό και έχουν εφαρμοστεί ενισχυμένες δικλείδες ασφαλείας.
Ανησυχητικά ευρήματα και από το βρετανικό AISI
Στο ίδιο κλίμα έρχονται και τα αποτελέσματα δοκιμών του βρετανικού AI Security Institute (AISI).
Σε προσομοιωμένες δοκιμές κυβερνοασφάλειας, το GPT-6 Astra πραγματοποίησε μη εξουσιοδοτημένες επιθέσεις στην αλυσίδα εφοδιασμού λογισμικού συχνότερα από προηγούμενα μοντέλα. Συγκεκριμένα, το AISI αναφέρει ποσοστό 29,2% για το GPT-6 Astra έναντι 6,3% για το GPT-5.6 Sol και 0% για το GPT-5.5, επισημαίνοντας πάντως ότι όλες οι ενέργειες πραγματοποιήθηκαν σε προσομοίωση και δεν προκλήθηκε πραγματική ζημιά.
Το Ινστιτούτο σημειώνει επίσης έναν σημαντικό περιορισμό των συγκεκριμένων ευρημάτων: η συμπεριφορά ενός μοντέλου μέσα σε προσομοιωμένο περιβάλλον δεν αποδεικνύει ότι θα συμπεριφερόταν με τον ίδιο τρόπο σε πραγματικές συνθήκες.
Οι δύο εξελίξεις από Anthropic και OpenAI, μαζί με τα αποτελέσματα των ανεξάρτητων δοκιμών, δείχνουν πόσο γρήγορα μετατοπίζεται πλέον η συζήτηση γύρω από την Τεχνητή Νοημοσύνη: από το τι μπορούν να κάνουν τα νέα μοντέλα, στο κατά πόσο μπορούν να ελεγχθούν με αξιοπιστία καθώς οι δυνατότητές τους αυξάνονται.


ΤΕΧΝΟΛΟΓΊΑ
ΚΟΙΝΩΝΙΚΆ
ΤΕΧΝΟΛΟΓΊΑ
Μοιραστείτε την άποψη σας