Εν όψει της τετραήμερης εξορίας του Διευθύνοντος Συμβούλου του OpenAI, Sam Altman, αρκετοί ερευνητές της εταιρείας έγραψαν μια επιστολή στο διοικητικό συμβούλιο προειδοποιώντας για μια ισχυρή ανακάλυψη τεχνητής νοημοσύνης που έλεγαν ότι θα μπορούσε να απειλήσει την ανθρωπότητα, σύμφωνα και με το δημοσίευμα του Reuters με πηγή δύο άτομα που γνωρίζουν το θέμα.
Το γράμμα και ο αλγόριθμος τεχνητής νοημοσύνης που δεν είχε αναφερθεί προηγουμένως ήταν βασικές εξελίξεις πριν από την απομάκρυνση από το διοικητικό συμβούλιο του Altman ανέφεραν οι δύο πηγές.
Πριν από τη θριαμβευτική επιστροφή του αργά την Τρίτη, περισσότεροι από 700 υπάλληλοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στην υποστηρικτική Microsoft (MSFT.O) σε ένδειξη αλληλεγγύης προς τον απολυθέντα ηγέτη τους.
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ μιας μεγαλύτερης λίστας παραπόνων από το διοικητικό συμβούλιο που οδήγησε στην απόλυση του Altman, μεταξύ των οποίων ήταν και οι ανησυχίες για την εμπορευματοποίηση των προόδων πριν κατανοηθούν οι συνέπειες.
Το Reuters δεν μπόρεσε να εξετάσει ένα αντίγραφο της επιστολής. Το προσωπικό που έγραψε την επιστολή δεν απάντησε στα αιτήματα για σχολιασμό.
Αφού ήρθε σε επαφή με το Reuters, το OpenAI, το οποίο αρνήθηκε να σχολιάσει, αναγνώρισε σε εσωτερικό μήνυμα προς το προσωπικό ένα project που ονομάζεται Q* και μια επιστολή στο διοικητικό συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, είπε ένας από τους ανθρώπους.
Κάποιοι στο OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup για αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), είπε ένας από τους ανθρώπους στο Reuters. Το OpenAI ορίζει το AGI ως αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες οικονομικά εργασίες. Δεδομένων των τεράστιων υπολογιστικών πόρων, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, είπε το άτομο υπό τον όρο της ανωνυμίας, επειδή το άτομο δεν είχε εξουσιοδότηση να μιλήσει για λογαριασμό της εταιρείας. Αν και εκτελούσε μόνο μαθηματικά σε επίπεδο μαθητών δημοτικού σχολείου, τα τεστ αυτά έκαναν τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, είπε η πηγή.
Για τους επιστήμονες, τα μαθηματικά είναι το «κλειδί» για την ανάπτυξη της τεχνητής νοημοσύνης. Αυτή τη στιγμή, τα μοντέλα generative AI είναι καλά στο να γράφουν και να μεταφράζουν. Το κάνουν προβλέποντας με τη στατιστική την επόμενη λέξη, κάτι που σημαίνει ότι οι απαντήσεις τους στην ίδια ερώτηση συχνά διαφέρουν. Όμως, εάν κατακτήσουν την ικανότητα των μαθηματικών, όπου η απάντηση σε κάθε ερώτηση είναι μία και μοναδική, αυτό θα σημαίνει ότι θα έχουν φτάσει σε ένα επίπεδο όπου η λογική τους θα μοιάζει πια με την ανθρώπινη νοημοσύνη.
Στην επιστολή τους προς το δ.σ., οι ερευνητές της εταιρείας προειδοποίησαν για τη δύναμη της τεχνητής νοημοσύνης και τους πιθανούς κινδύνους. Παρότι δεν έχει γίνει γνωστό σε ποιους κινδύνους αναφέρονταν ακριβώς, επιστήμονες έχουν εκφράσει την ανησυχία για το τι θα συνέβαινε, για παράδειγμα, εάν οι έξυπνες μηχανές θεωρήσουν ότι η καταστροφή της ανθρωπότητας αποτελεί την αποστολή τους ή είναι προς το συμφέρον τους.
Μία ημέρα πριν την απόλυσή του, ο Altman είχε αναφερθεί σε κάποια μεγάλη ανακάλυψη. «Τέσσερις φορές έως τώρα στην ιστορία της OpenAI, η πιο πρόσφατη συνέβη μόλις τις τελευταίες δύο εβδομάδες, κατάφερα να βρίσκομαι στο δωμάτιο, τη στιγμή που κάπως σπρώχνουμε το πέπλο της άγνοιας προς τα πίσω και τα σύνορα της ανακάλυψης προς τα μπροστά. Και το να το κάνεις αυτό είναι η ύψιστη επαγγελματική τιμή στη ζωή ενός ανθρώπου», είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Aκολουθήστε το AppleWorldHellas στο Google News για να ενημερώνεστε άμεσα για όλα τα νέα άρθρα! Όσοι χρησιμοποιείτε υπηρεσία RSS (π.χ. Feedly), μπορείτε να προσθέσετε το AppleWorldHellas στη λίστα σας με αντιγραφή και επικόλληση της διεύθυνσης https://appleworldhellas.com/feed. Ακολουθήστε επίσης το AppleWorldHellas.com σε Facebook, Twitter, Instagram, και YouTube
