Apple GPT στην τσέπη σας; Θα μπορούσε να γίνει πραγματικότητα νωρίτερα από όσο νομίζετε. Οι ερευνητές της τεχνητής νοημοσύνης της Apple λένε ότι έχουν κάνει μια σημαντική ανακάλυψη στην ανάπτυξη μοντέλων μεγάλων γλωσσών (LLM) σε iPhone και άλλες συσκευές Apple με περιορισμένη μνήμη, εφευρίσκοντας μια καινοτόμο τεχνική χρήσης μνήμης flash.

Τα chatbot που βασίζονται σε LLM, όπως το ChatGPT και το Claude, έχουν απίστευτη ένταση δεδομένων και μνήμης, συνήθως απαιτούν τεράστιες ποσότητες μνήμης για να λειτουργήσουν, κάτι που αποτελεί πρόκληση για συσκευές όπως τα iPhone που έχουν περιορισμένη χωρητικότητα μνήμης. Για να αντιμετωπίσουν αυτό το ζήτημα, οι ερευνητές της Apple ανέπτυξαν μια νέα τεχνική που χρησιμοποιεί μνήμη flash – την ίδια μνήμη όπου ζουν οι εφαρμογές και οι φωτογραφίες σας – για την αποθήκευση των δεδομένων του μοντέλου AI.

Αποθήκευση AI σε Flash Memory

Σε μια νέα ερευνητική εργασία με τίτλο “LLM in a flash: Efficient Large Language Model Inference with Limited Memory”, οι συγγραφείς σημειώνουν ότι η αποθήκευση flash είναι πιο άφθονη στις φορητές συσκευές από τη μνήμη RAM που χρησιμοποιείται παραδοσιακά για την εκτέλεση LLM. Η μέθοδός τους παρακάμπτει έξυπνα τον περιορισμό χρησιμοποιώντας δύο βασικές τεχνικές που ελαχιστοποιούν τη μεταφορά δεδομένων και μεγιστοποιούν την απόδοση της μνήμης flash:

• Παράθυρο: Σκεφτείτε το ως μια μέθοδο ανακύκλωσης. Αντί να φορτώνει νέα δεδομένα κάθε φορά, το μοντέλο AI επαναχρησιμοποιεί ορισμένα από τα δεδομένα που έχει ήδη επεξεργαστεί. Αυτό μειώνει την ανάγκη για συνεχή ανάκτηση μνήμης, καθιστώντας τη διαδικασία πιο γρήγορη και ομαλή.

• Ομαδοποίηση γραμμής-στήλης: Αυτή η τεχνική είναι σαν να διαβάζετε ένα βιβλίο σε μεγαλύτερα κομμάτια αντί για μία λέξη τη φορά. Με την πιο αποτελεσματική ομαδοποίηση δεδομένων, μπορεί να διαβαστούν ταχύτερα από τη μνήμη flash, επιταχύνοντας την ικανότητα του AI να κατανοεί και να δημιουργεί γλώσσα.

Ο συνδυασμός αυτών των μεθόδων επιτρέπει στα μοντέλα τεχνητής νοημοσύνης να έχουν έως και διπλάσιο μέγεθος από τη διαθέσιμη μνήμη του iPhone, σύμφωνα με την έρευνα. Αυτό μεταφράζεται σε 4-5 φορές αύξηση της ταχύτητας στους τυπικούς επεξεργαστές (CPU) και μια εντυπωσιακή 20-25 φορές ταχύτερη στους επεξεργαστές γραφικών (GPU).

«Αυτή η ανακάλυψη είναι ιδιαίτερα σημαντική για την ανάπτυξη προηγμένων LLM σε περιβάλλοντα περιορισμένων πόρων, επεκτείνοντας έτσι τη δυνατότητα εφαρμογής και την προσβασιμότητά τους», γράφουν οι συγγραφείς.

Ταχύτερο AI στο iPhone

Η σημαντική ανακάλυψη στην αποτελεσματικότητα της τεχνητής νοημοσύνης ανοίγει νέες δυνατότητες για τα μελλοντικά iPhone, όπως πιο προηγμένες δυνατότητες Siri, μετάφραση γλώσσας σε πραγματικό χρόνο και εξελιγμένες λειτουργίες που βασίζονται σε AI στη φωτογραφία και την επαυξημένη πραγματικότητα.

Η τεχνολογία θέτει επίσης τις βάσεις για τα iPhone να τρέχουν σύνθετους βοηθούς τεχνητής νοημοσύνης και chatbot στη συσκευή, κάτι πάνω στο οποίο λέγεται ότι ήδη εργάζεται η Apple.

Το έργο της Apple για τη δημιουργία τεχνητής νοημοσύνης θα μπορούσε τελικά να ενσωματωθεί στην φωνητική βοηθό Siri. Η Apple τον Φεβρουάριο του 2023 διοργάνωσε μια σύνοδο κορυφής τεχνητής νοημοσύνης και ενημέρωσε τους υπαλλήλους της για τη δουλειά της σε μεγάλα γλωσσικά μοντέλα.

Σύμφωνα με το Bloomberg, η Apple στοχεύει σε μια πιο έξυπνη έκδοση του Siri που είναι βαθιά ενσωματωμένη με την τεχνητή νοημοσύνη. Η Apple σχεδιάζει να ενημερώσει τον τρόπο με τον οποίο αλληλεπιδρά το Siri με την εφαρμογή Messages, επιτρέποντας στους χρήστες να τοποθετούν σύνθετες ερωτήσεις και να συμπληρώνουν αυτόματα προτάσεις πιο αποτελεσματικά.

Πέρα από αυτό, η Apple φημολογείται ότι σχεδιάζει να προσθέσει AI σε όσο το δυνατόν περισσότερες εφαρμογές της Apple.

Apple GPT

Η Apple φέρεται να αναπτύσσει το δικό της μοντέλο παραγωγής τεχνητής νοημοσύνης που ονομάζεται «Ajax». Σχεδιασμένος για να ανταγωνιστεί τα GPT-3 και GPT-4 του OpenAI, ο Ajax λειτουργεί με 200 δισεκατομμύρια παραμέτρους, υποδηλώνοντας υψηλό επίπεδο πολυπλοκότητας και ικανότητας στην κατανόηση και τη δημιουργία γλωσσών. Εσωτερικά γνωστός ως “Apple GPT”, το Ajax στοχεύει να ενοποιήσει την ανάπτυξη μηχανικής μάθησης σε όλη την Apple, προτείνοντας μια ευρύτερη στρατηγική για την ενσωμάτωση της τεχνητής νοημοσύνης σε βάθος στο οικοσύστημα της Apple.

Σύμφωνα με τις τελευταίες αναφορές, το Ajax θεωρείται πιο ικανός από την προηγούμενη γενιά ChatGPT 3.5. Ωστόσο, προτείνεται επίσης ότι τα νεότερα μοντέλα του OpenAI μπορεί να έχουν προχωρήσει πέρα από τις δυνατότητες του Ajax από τον Σεπτέμβριο του 2023​.

Τόσο το The Information όσο και ο αναλυτής Jeff Pu ισχυρίζονται ότι η Apple θα έχει κάποιο είδος δυνατότητας παραγωγής τεχνητής νοημοσύνης διαθέσιμη στο iPhone και το iPad γύρω στα τέλη του 2024, όταν θα κυκλοφορήσει το iOS 18.

Ο Pu είπε τον Οκτώβριο ότι η Apple κατασκευάζει μερικές εκατοντάδες διακομιστές τεχνητής νοημοσύνης το 2023, ενώ θα έρθουν περισσότεροι το 2024. Η Apple φέρεται να προσφέρει έναν συνδυασμό τεχνητής νοημοσύνης και νοημοσύνης που βασίζεται σε cloud με επεξεργασία στη συσκευή.

Aκολουθήστε το AppleWorldHellas στο Google News για να ενημερώνεστε άμεσα για όλα τα νέα άρθρα! Όσοι χρησιμοποιείτε υπηρεσία RSS (π.χ. Feedly), μπορείτε να προσθέσετε το AppleWorldHellas στη λίστα σας με αντιγραφή και επικόλληση της διεύθυνσης https://appleworldhellas.com/feed. Ακολουθήστε επίσης το AppleWorldHellas.com σε Facebook, Twitter, Instagram, και YouTube