Artificial intelligence breakthrough / Οι ερευνητές του OpenAI προειδοποίησαν το διοικητικό συμβούλιο για την ανακάλυψη της τεχνητής νοημοσύνης πριν από την απομάκρυνση του διευθύνοντος συμβούλου, λένε πηγές

Οι ερευνητές της εταιρείας OpenAI προειδοποίησαν το διοικητικό συμβούλιο για μία σημαντική ανακάλυψη στην τεχνητή νοημοσύνη πριν από την αποπομπή του Σαμ Άλτμαν, σύμφωνα με αποκλειστικό δημοσίευμα του Reuters. Ti είναι το «Q*» που για πρώτη φορά είναι σε θέση να λύνει εύκολα μαθηματικά προβλήματα

Εν όψει της τετραήμερης «έξωσης» του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν, αρκετοί ερευνητές έγραψαν επιστολή στο διοικητικό συμβούλιο προειδοποιώντας για μια σημαντική ανακάλυψη τεχνητής νοημοσύνης που θα μπορούσε να απειλήσει την ανθρωπότητα, είπαν στο Reuters τουλάχιστον δύο άτομα με γνώση του θέματος.

Η επιστολή και ο αλγόριθμος τεχνητής νοημοσύνης που δεν είχε αναφερθεί προηγουμένως είναι βασικές εξελίξεις πριν από την απομάκρυνση από το διοικητικό συμβούλιο του Σαμ Άλτμαν, του ανθρώπου που βρίσκεται πίσω από την αλματώδη πρόοδο της γενετικής τεχνητής νοημοσύνης, ανέφεραν οι πηγές.

Πριν από τη θριαμβευτική επιστροφή του αργά την Τρίτη (21.11), περισσότεροι από 700 υπάλληλοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στη συνεργαζόμενη Microsoft, σε ένδειξη αλληλεγγύης προς τον απολυθέντα ηγέτη τους.

Οι πηγές ανέφεραν την επιστολή ως ένα παράγοντα μεταξύ μιας μεγαλύτερης λίστας παραπόνων από το διοικητικό συμβούλιο που οδήγησε στην απόλυση του Άλτμαν, μεταξύ των οποίων ήταν και οι ανησυχίες για την εμπορευματοποίηση της προόδου στον κλάδο της ΑΙ πριν γίνουν γνωστές οι συνέπειες. Το Reuters δεν μπόρεσε να εξετάσει αντίγραφο της επιστολής, ενώ το προσωπικό που την έγραψε δεν απάντησε στα αιτήματα για σχολιασμό.

Αφού ήρθε σε επαφή με το Reuters, η OpenAI, η οποία αρνήθηκε να σχολιάσει, αναγνώρισε σε εσωτερικό μήνυμα προς το προσωπικό ένα έργο που ονομάζεται «Q*» και μια επιστολή προς το διοικητικό συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, είπε ένας από τους ανθρώπους.

Εκπρόσωπος του OpenAI είπε ότι το μήνυμα, που εστάλη από το επί χρόνια στέλεχος Mίρα Μουράτι, ειδοποίησε το προσωπικό για ορισμένες ιστορίες των μέσων ενημέρωσης χωρίς να σχολιάσει την ακρίβειά τους.

Κάποιοι στο OpenAI πιστεύουν ότι το «Q*» θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup για αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), είπε πηγή στο Reuters.

Η OpenAI ορίζει τα AGI ως αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες οικονομικά πολύτιμες εργασίες.

Δεδομένων των τεράστιων υπολογιστικών πόρων, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, είπε το άτομο υπό τον όρο της ανωνυμίας, επειδή δεν είχε εξουσιοδότηση να μιλήσει εκ μέρους της εταιρείας.

Αν και εκτελούσε μόνο μαθηματικά σε επίπεδο μαθητών δημοτικού σχολείου, τα τεστ αυτά έκαναν τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του «Q*», είπε η πηγή. Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τις δυνατότητες που ισχυρίστηκαν οι ερευνητές ότι διαθέτει.

«Η ΑΙ έσπασε το σύνορο με τα μαθηματικά»

Οι ερευνητές θεωρούν ότι τα μαθηματικά αποτελούν σύνορο στην ανάπτυξη της γενετικής τεχνητής νοημοσύνης. Επί του παρόντος, η γενετική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλώσσας προβλέποντας στατιστικά την επόμενη λέξη και οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν πολύ.

Αλλά η κατάκτηση της ικανότητας να κάνει μαθηματικά -όπου υπάρχει μόνο μια σωστή απάντηση- σημαίνει ότι η τεχνητή νοημοσύνη θα έχει μεγαλύτερες ικανότητες συλλογισμού που μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί σε νέα επιστημονική έρευνα, για παράδειγμα, πιστεύουν οι ερευνητές της τεχνητής νοημοσύνης. Σε αντίθεση με μια αριθμομηχανή που μπορεί να επιλύσει έναν περιορισμένο αριθμό πράξεων, το AGI μπορεί να γενικεύσει, να μάθει και να κατανοήσει.

Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επεσήμαναν την ικανότητα και τον πιθανό κίνδυνο της τεχνητής νοημοσύνης, ανέφεραν οι πηγές χωρίς να διευκρινίσουν τις ακριβείς ανησυχίες για την ασφάλεια που επικαλούνται.

Υπάρχει εδώ και πολύ καιρό συζήτηση μεταξύ των επιστημόνων υπολογιστών σχετικά με τον κίνδυνο που θέτουν οι εξαιρετικά ευφυείς μηχανές, για παράδειγμα εάν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας ήταν προς το συμφέρον τους.

Οι ερευνητές επισήμαναν επίσης την εργασία μιας ομάδας «επιστημόνων AI», την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές. Η ομάδα, που σχηματίστηκε με βάση τις προηγούμενες ομάδες «Code Gen» και «Math Gen», διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα AI για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονική εργασία, είπε ένας από τους συμμετέχοντες.

Ο Άλτμαν ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και άντλησε επενδύσεις - και απαραίτητους υπολογιστικούς πόρους από τη Microsoft για να πλησιάσει το όραμά του.

Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων σε μια εκδήλωση αυτόν τον μήνα, ο Άλτμαν είπε την περασμένη εβδομάδα σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο ότι πίστευε ότι υπήρχαν σημαντικές προόδους.

«Τέσσερις φορές μέχρι τώρα στην ιστορία του OpenAI, η πιο πρόσφατη ήταν μόλις τις τελευταίες δύο εβδομάδες, έφτασα να είμαι στο δωμάτιο, όπου σπρώχνουμε το πέπλο της άγνοιας προς τα πίσω και τα σύνορα της ανακάλυψης προς τα εμπρός, και το να κάνουμε κάτι τέτοιο είναι η επαγγελματική τιμή μιας ζωής», είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού. Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Άλτμαν.

Reuters