Ένα έγγραφο πολιτικής της Meta περιγράφει τους φόβους της εταιρείας ότι θα μπορούσε κατά λάθος να αναπτύξει ένα μοντέλο τεχνητής νοημοσύνης που θα οδηγούσε σε «καταστροφικά αποτελέσματα». Περιγράφει τα σχέδιά της να αποτρέψει την κυκλοφορία τέτοιων μοντέλων, αλλά παραδέχεται ότι μπορεί να μην είναι σε θέση να το κάνει.

Μεταξύ των δυνατοτήτων που η εταιρεία φοβάται περισσότερο είναι ένα σύστημα τεχνητής νοημοσύνης που θα μπορούσε να διαπεράσει την ασφάλεια ακόμη και του καλύτερα προστατευμένου εταιρικού ή κυβερνητικού δικτύου υπολογιστών χωρίς ανθρώπινη βοήθεια…

Το TechCrunch εντόπισε το έγγραφο πολιτικής που φέρει τον αβλαβή τίτλο του Frontier AI Framework.

Το έγγραφο, το οποίο η Meta ονομάζει Frontier AI Framework, προσδιορίζει δύο τύπους συστημάτων τεχνητής νοημοσύνης που η εταιρεία θεωρεί πολύ επικίνδυνα για να κυκλοφορήσει: συστήματα «υψηλού κινδύνου» και «κρίσιμου κινδύνου». Όπως τα ορίζει η Meta, τόσο τα συστήματα «υψηλού κινδύνου» και «κρίσιμου κινδύνου» είναι ικανά να βοηθήσουν στην ασφάλεια στον κυβερνοχώρο, τις χημικές και βιολογικές επιθέσεις, με τη διαφορά ότι τα συστήματα «κρίσιμου κινδύνου» θα μπορούσαν να οδηγήσουν σε «καταστροφικό αποτέλεσμα. Τα συστήματα υψηλού κινδύνου, αντίθετα, μπορεί να κάνουν μια επίθεση ευκολότερη, αλλά όχι τόσο αξιόπιστα ή αξιόπιστα όσο ένα σύστημα κρίσιμου κινδύνου.

Η εταιρεία εξηγεί τον ορισμό της για ένα «καταστροφικό» αποτέλεσμα:

Τα καταστροφικά αποτελέσματα είναι αποτελέσματα που θα είχαν μεγάλης κλίμακας, καταστροφικές και δυνητικά μη αναστρέψιμες επιβλαβείς επιπτώσεις στην ανθρωπότητα που θα μπορούσαν εύλογα να πραγματοποιηθούν ως άμεσο αποτέλεσμα της πρόσβασης στα [τα μοντέλα μας AI].

Το παράδειγμα που δίνεται είναι ο «αυτοματοποιημένος συμβιβασμός από άκρο σε άκρο ενός περιβάλλοντος εταιρικής κλίμακας που προστατεύεται από τις βέλτιστες πρακτικές». Με άλλα λόγια, μια τεχνητή νοημοσύνη που μπορεί να εισχωρήσει σε οποιοδήποτε δίκτυο υπολογιστών χωρίς να χρειάζεται βοήθεια από ανθρώπους.

Άλλοι είναι:

• Αυτοματοποιημένη ανακάλυψη και εκμετάλλευση τρωτών σημείων zero-day
• Πλήρως αυτοματοποιημένες απάτες κατά ιδιωτών και επιχειρήσεων, που προκαλούν εκτεταμένη βλάβη
• Η ανάπτυξη και ο πολλαπλασιασμός «βιολογικών όπλων υψηλής πρόσκρουσης».

Η εταιρεία λέει ότι όταν εντοπίσει έναν κρίσιμο κίνδυνο, θα σταματήσει αμέσως να εργάζεται για το μοντέλο και θα επιδιώξει να διασφαλίσει ότι δεν μπορεί να κυκλοφορήσει.

Το έγγραφο της Meta παραδέχεται ειλικρινά ότι το καλύτερο που μπορεί να κάνει σε αυτές τις συνθήκες είναι να κάνει ό,τι καλύτερο μπορεί για να διασφαλίσει ότι το μοντέλο δεν θα κυκλοφορήσει, αλλά τα μέτρα του μπορεί να μην είναι επαρκή:

Η πρόσβαση περιορίζεται αυστηρά σε έναν μικρό αριθμό εμπειρογνωμόνων, παράλληλα με τις προστασίες ασφαλείας για την αποφυγή πειρατείας ή διείσδυσης στο βαθμό που είναι τεχνικά εφικτό και εμπορικά εφικτό.