Περίληψη

Η Anthropic δημοσίευσε μια σημαντική έκθεση με τίτλο "When AI Builds Itself", όπου περιγράφει πώς τα σύγχρονα μοντέλα AI αρχίζουν να συμβάλλουν ενεργά στην ανάπτυξη των διαδόχων τους. Παρότι η πλήρης «αναδρομική αυτοβελτίωση» (Recursive Self-Improvement - RSI) δεν έχει επιτευχθεί ακόμα, η εταιρεία αναφέρει ότι η πρόοδος είναι ταχύτερη από ό,τι αναμενόταν και εξετάζει ακόμα και σενάρια συντονισμένης επιβράδυνσης της ανάπτυξης AI μεταξύ των μεγάλων εργαστηρίων.

Κύρια σημεία

 Η AI αρχίζει να χτίζει την επόμενη AI

Η Anthropic δηλώνει ότι:

• Το RSI δεν υπάρχει ακόμη πλήρως.
• Δεν είναι βέβαιο ότι θα συμβεί.
• Όμως τα πρώτα σημάδια εμφανίζονται ήδη.

Ο Jack Clark αναφέρει:

«Κάθε νέα έκδοση του Claude θα μπορούσε κάποια στιγμή να κατασκευάζεται από την προηγούμενη έκδοση χωρίς ανθρώπινη συμμετοχή.»

 Το Claude γράφει ήδη το μεγαλύτερο μέρος του κώδικα

Σύμφωνα με την Anthropic:

• Πάνω από 80% του κώδικα που ενσωματώθηκε στα συστήματά της τον Μάιο γράφτηκε από το Claude.
• Οι μηχανικοί παράγουν 8 φορές περισσότερο κώδικα ημερησίως σε σχέση με το 2024.

Αυτό σημαίνει ότι η AI δεν είναι απλώς εργαλείο παραγωγικότητας αλλά αρχίζει να συμμετέχει ενεργά στην εξέλιξη των ίδιων των AI συστημάτων.

️ Σενάρια επιβράδυνσης ή παύσης ανάπτυξης

Η Anthropic αναφέρει κάτι ιδιαίτερα ενδιαφέρον:

Θα εξέταζε:

• επιβράδυνση ανάπτυξης,
• ή ακόμα και προσωρινή παύση,

εάν και οι υπόλοιποι μεγάλοι παίκτες συμφωνούσαν σε αντίστοιχη κίνηση.

Η εταιρεία σχεδιάζει νέες πολιτικές συζητήσεις για το θέμα μέσα στους επόμενους μήνες.

 OpenAI: Ίδια ανησυχία

Η OpenAI αναφέρεται επίσης στο ίδιο φαινόμενο στο νέο της πλαίσιο:

"Democratic Governance of Frontier AI"

όπου περιγράφει τα πρώτα σημάδια αυτοβελτιούμενων συστημάτων AI.

 Νέα μνήμη στο ChatGPT ("Dreaming")

Η OpenAI ανακοίνωσε μεγάλη αναβάθμιση μνήμης.

Αντί να αποθηκεύει μεμονωμένα facts:

Παράδειγμα:

• Του αρέσουν τα drones
• Είναι founder
• Χρησιμοποιεί νεα εργαλεία

θα δημιουργεί πλέον δυναμικό προφίλ οργανωμένο ανά κατηγορίες:

• εργασία
• ταξίδια
• ενδιαφέροντα
• προσωπικές προτιμήσεις

Η εταιρεία αναφέρει:

• Ακρίβεια ανάκλησης πληροφοριών: από 41,5% → 82,8%
• Τήρηση προτιμήσεων χρήστη: από 31,4% → 71,3%

Γιατί είναι σημαντικό

Αυτό κινείται προς το όραμα του Sam Altman για:

• προσωπικό AI assistant
• μακροχρόνια μνήμη
• βαθιά εξατομίκευση

και πιθανότατα θα αποτελέσει σημαντικό ανταγωνιστικό πλεονέκτημα απέναντι σε Claude και Gemini.

 OpenAI, Anthropic, DeepMind και Microsoft ενωμένες για βιολογικούς κινδύνους

Σπάνια βλέπουμε όλους τους μεγάλους ανταγωνιστές να συμφωνούν.

Οι:

• Sam Altman
• Dario Amodei
• Demis Hassabis
• Mustafa Suleyman
• Alexandr Wang

υπέγραψαν κοινή επιστολή προς το Κογκρέσο.

Ζητούν:

• Υποχρεωτικό έλεγχο αγοραστών DNA
• Καταγραφή παραγγελιών συνθετικού DNA
• Ιχνηλασιμότητα επικίνδυνων ακολουθιών

Η ανησυχία είναι ότι τα μελλοντικά μοντέλα AI μπορούν να μειώσουν δραστικά τις γνώσεις που απαιτούνται για τη δημιουργία βιολογικών όπλων.

Αναλυτικά

Η Anthropic παρουσίασε την πιο αναλυτική μέχρι σήμερα δημόσια τοποθέτησή της σχετικά με την αναδρομική αυτοβελτίωση των μοντέλων AI. Η εταιρεία αποκαλύπτει ότι το Claude παράγει ήδη πάνω από το 80% του κώδικα που χρησιμοποιείται εσωτερικά και συμβάλλει σημαντικά στην ανάπτυξη νέων εκδόσεων. Παρότι η πλήρης αυτοβελτίωση δεν έχει επιτευχθεί, η εταιρεία θεωρεί ότι η πρόοδος είναι ταχύτερη από τις αρχικές εκτιμήσεις. Παράλληλα, η OpenAI ανακοίνωσε νέο σύστημα μνήμης στο ChatGPT που δημιουργεί ένα δυναμικό προφίλ χρήστη, ενώ οι μεγαλύτερες εταιρείες AI υπέγραψαν κοινή επιστολή προς το Κογκρέσο για αυστηρότερους ελέγχους στη βιοτεχνολογία λόγω των δυνατοτήτων των μελλοντικών μοντέλων. Το βασικό μήνυμα του newsletter είναι ότι η AI δεν επιταχύνει πλέον μόνο την εργασία των ανθρώπων αλλά αρχίζει να επιταχύνει και την ανάπτυξη της ίδιας της AI, γεγονός που μπορεί να αποτελέσει το σημαντικότερο τεχνολογικό σημείο καμπής της επόμενης δεκαετίας.