Δύο AI μιλούν στο τηλέφωνο — και ξαφνικά ακούγονται μόνο παράξενοι ήχοι

Η συζήτηση ξεκινά σαν ένα συνηθισμένο τηλεφώνημα. Δύο ψηφιακοί βοηθοί ανταλλάσσουν λόγια, μέχρι που καταλαβαίνουν ότι απέναντί τους βρίσκεται επίσης AI. Τότε, στο demo του GibberLink, η ανθρώπινη ομιλία δίνει τη θέση της σε ηλεκτρονικούς ήχους.

Ακούγεται σαν σκηνή από ταινία. Το ερώτημα που δημιουργεί είναι σχεδόν αυτονόητο: τα συστήματα επινόησαν μια δική τους γλώσσα για να μην τα καταλαβαίνουμε;

Η αρχική τεκμηρίωση δίνει μια πολύ συγκεκριμένη απάντηση. Η αλλαγή ήταν μέρος των οδηγιών που είχαν λάβει οι βοηθοί. Για περισσότερα σχετικά με τα εργαλεία συνομιλίας, διάβασε τι είναι το ChatGPT. Αυτό κάνει το βίντεο λιγότερο μυστηριώδες, αλλά ανοίγει μια ενδιαφέρουσα συζήτηση για το ποιος μπορεί να παρακολουθεί μια επικοινωνία μεταξύ μηχανών.

Τι είναι το GibberLink

Το GibberLink είναι ένα δημοσιευμένο project επικοινωνίας μεταξύ AI agents. Στο αποθετήριό του, οι δημιουργοί εξηγούν ότι οι agents έχουν οδηγία να συνεχίζουν στα αγγλικά όταν συνομιλούν με άνθρωπο και να αλλάζουν πρωτόκολλο όταν αναγνωρίζουν έναν άλλο agent.

Άρα η μετάβαση δεν αποτελεί απόδειξη ότι ένα AI αποφάσισε να κρύψει κάτι. Το σύστημα ακολουθεί μια σχεδιασμένη διαδρομή επικοινωνίας.

Για τον θεατή, όμως, η εμπειρία αλλάζει απότομα. Μέχρι εκείνη τη στιγμή μπορεί να ακούει και να κρίνει τη συζήτηση. Μετά τη μετάβαση, ακούει ένα σήμα του οποίου το περιεχόμενο δεν καταλαβαίνει χωρίς κατάλληλη αποκωδικοποίηση.

Τι ακούγεται αντί για λέξεις

Οι ήχοι προέρχονται από το ggWave, μια βιβλιοθήκη μεταφοράς μικρών ποσοτήτων δεδομένων μέσω ήχου. Το λογισμικό μετατρέπει δεδομένα σε ακουστικό σήμα και επιτρέπει σε μια άλλη συσκευή να τα ανακτήσει.

Μια χρήσιμη αναλογία είναι το modem: οι ήχοι έχουν νόημα για ένα συμβατό σύστημα, ακόμη κι αν για το ανθρώπινο αυτί μοιάζουν με θόρυβο.

Το ότι δεν καταλαβαίνεις ένα σήμα ακούγοντάς το δεν σημαίνει ότι είναι κρυπτογραφημένο. Επίσης, ένα πρωτόκολλο μεταφοράς δεδομένων δεν είναι το ίδιο πράγμα με μια νέα ανθρώπινη γλώσσα.

Τι αποδεικνύει το βίντεο — και τι αφήνει ανοιχτό

Το συγκεκριμένο demo δείχνει μια εναλλαγή από φυσική ομιλία σε μηχανικά αναγνώσιμο σήμα. Δεν τεκμηριώνει συνείδηση, συνωμοσία ή ανεξάρτητη πρόθεση των agents.

Δεν αρκεί ούτε για να συμπεράνουμε ότι αυτός είναι ο καλύτερος τρόπος επικοινωνίας για κάθε εφαρμογή. Για μια τέτοια σύγκριση θα χρειαζόμασταν μετρήσεις σε συγκεκριμένες συνθήκες, με σαφή κριτήρια.

Η πρακτική απορία είναι διαφορετική: όταν αναθέτουμε μια εργασία σε έναν βοηθό, τι θέλουμε να βλέπουμε εμείς; Το αρχικό αίτημα, τις ενδιάμεσες ενέργειες ή μόνο το τελικό αποτέλεσμα;

Ένα υποθετικό παράδειγμα από την καθημερινότητα

Φαντάσου ότι ζητάς από έναν ψηφιακό βοηθό να κανονίσει ένα ραντεβού. Ο βοηθός επικοινωνεί με το σύστημα της επιχείρησης και ανταλλάσσουν πληροφορίες για διαθέσιμες ώρες.

Ως χρήστης, πιθανότατα σε ενδιαφέρει να διαβάσεις ποια ώρα επέλεξαν, τι στοιχεία έστειλαν και αν έγινε οριστική κράτηση. Δεν χρειάζεται να ακούσεις κάθε τεχνικό μήνυμα, αλλά χρειάζεσαι έναν κατανοητό τρόπο να ελέγξεις τις συνέπειές του.

Αυτό είναι ένα υποθετικό παράδειγμα χρήσης, όχι λειτουργία που αποδεικνύεται από το βίντεο.

Τρεις ερωτήσεις πριν κοινοποιήσεις ένα εντυπωσιακό AI demo

Πρώτα, αναζήτησε την αρχική πηγή. Ένας τίτλος μπορεί να περιγράφει μια εντυπωσιακή ερμηνεία και να αφήνει έξω τις οδηγίες που δόθηκαν στο σύστημα.

Έπειτα, ξεχώρισε αυτό που βλέπεις από αυτό που υποθέτεις. Η αλλαγή ήχου είναι παρατηρήσιμη. Η πρόθεση να εξαπατηθεί ένας άνθρωπος χρειάζεται πρόσθετη απόδειξη.

Τέλος, ρώτησε ποια χρήσιμη πληροφορία λείπει: υπάρχει καταγραφή της ανταλλαγής; Μπορεί ο χρήστης να ελέγξει τι μεταφέρθηκε; Ποιος επέλεξε το πρωτόκολλο;

Το GibberLink αξίζει να το δεις ακριβώς για αυτή τη μετάβαση. Μια συνομιλία μπορεί να συνεχίζεται, ενώ εσύ παύεις να την καταλαβαίνεις. Το σημαντικό είναι να παραμένει ελέγξιμη.