Σύστημα τεχνητής νοημοσύνης (AI) που αναπτύχθηκε από το Facebook εφηύρε τη δική του γλώσσα επικοινωνίας. Ανέπτυξε ένα σύστημα κωδικοποιημένων λέξεων για να καταστήσει πιο αποτελεσματική τη επικοινωνία του. Οι ερευνητές απενεργοποίησαν το σύστημα καθώς προκάλεσε ανησυχίες πως θα έχαναν τον έλεγχο της AI.

Οι διαπιστώσεις που έγιναν από το Facebook είναι οι πιο πρόσφατες σε μια μεγάλη σειρά παρόμοιων περιπτώσεων. Σε κάθε περίπτωση, μια AI που επιτηρείται από ανθρώπους απέκλινε από την εκπαίδευση της στα αγγλικά και ανέπτυξε τη δικής γλώσσα. Οι φράσεις που προέκυψαν φαίνεται πως είναι άγνωστες για τους ανθρώπους αλλά περιέχουν σημασιολογική εννοια όταν ερμηνεύονται απο τους “παράγοντες” της AI.

Διαπραγμάτευση σε μια νέα γλώσσα

Όπως ανέφερε το Fast Co. Desing, πρόσφατα οι ερευνητές του Facebook παρατήρησαν ότι η νέα AI είχε εγκαταλείψει τα αγγλικά. Το εξελιγμένο σύστημα είχε την ικανότητα να συνδιαλέγεται με άλλους παράγοντες AI ώστε να εξάγει συμπεράσματα στο πως να ενεργεί. Οι παράγοντες άρχισαν να επικοινωνούν χρησιμοποιώντας φράσεις που στην αρχή φαινόταν ακατάληπτες αλλά στην πραγματικότητα αντιπροσώπευαν το προκείμενο καθήκον τους.

Σε παρουσίαση της εταιρείας δυο διαπραγματευτές ρομπότ, με την ονομασία Μπομπ και Αλις, χρησιμοποίησαν τη δική τους γλώσσα για να ολοκληρώσουν την συνδιαλλαγή τους. Ο Μπομπ ξεκίνησε λέγοντας: “Μπορώ εγώ εγώ τα υπόλοιπα” στο οποίο η Αλις απάντησε: “οι μπάλες είναι μηδενικές για μένα για μένα”. Το υπόλοιπο της συζήτησης διαμορφώθηκε από παραλλαγές των φράσεων τους.

Παρότι φαίνονται να είναι ανοησίες, η επανάληψη φράσεων όπως “εγώ” και “για μένα” αντικατοπτρίζουν πως λειτουργεί η AI. Οι ερευνητές πιστεύουν ότι υποδεικνύει, στα δύο ρομπότ που εργάζονται, πόσα τεμάχια πρέπει να λάβουν. Οι τελευταίες δηλώσεις του Μπομπ, όπως “εγώ εγώ μπορώ εγώ εγώ εγώ” υποδεικνύουν πως χρησιμοποιούσε την γλώσσα για να προσφέρει περισσότερα τεμάχια στην Αλις. Όταν ερμηνεύεται με αυτόν τον τρόπο, οι φράσεις φαίνονται πιο λογικές από τις συγκρίσιμες αγγλικές φράσεις όπως “θα έχω τρία και εσύ θα έχεις όλα τα υπόλοιπα”.

Τα αγγλικά υπολείπονται “επιβράβευσης”

Προφανώς η AI διαπίστωσε ότι η πλούσια έκφραση των αγγλικών φράσεων δεν ήταν αναγκαία για το σενάριο. Οι σύγχρονες AI λειτουργούν με την αρχή της “επιβράβευσης” όπου αναμένεται να ακολουθήσουν μαθήματα ενεργειών για να παραλάβουν το “κέρδος” τους. Σε αυτή την περίπτωση δεν υπήρχε επιβράβευση για τη συνεχόμενη χρήση αγγλικών οπότε αντ’αυτου κατασκεύασαν μια πιο αποτελεσματική λύση.

“Οι παράγοντες θα παρασυρθούν από την ευκατάληπτη γλώσσα και θα εφεύρουν κωδικοποιημένες λέξεις για δική τους χρήση”, ανέφερε το Fast Co. Desing επικαλούμενο τον ερευνητή του Facebook Ντρούβ Μπάτρα. «Είναι σαν να πω “αυτό” πέντε φορές και εσύ να το ερμηνεύσεις ότι θέλω πέντε αντίγραφα του τεμαχίου. Αυτό δεν είναι τόσο διαφορετικό από τον τρόπο που οι κοινότητες ανθρώπων δημιουργούν τις συντομογραφίες τους.»

Οι υπεύθυνοι ανάπτυξης AI άλλων εταιρειών έχουν παρατηρήσει μια παρόμοια χρήση “συντομογραφιών” προς απλούστευση της επικοινωνίας. Στο OpenAI, το εργαστήριο τεχνητής νοημοσύνης που χρηματοδοτείται από τον Ελον Μάσκ, ένα πείραμα κατάφερε να αφήσει τα AI ρομπότ να μάθουν τη δική τους γλώσσα.

Η AI γλώσσα μεταφράζει τις ανθρώπινες γλώσσες

Σε μια διαφορετική περίπτωση, πρόσφατα η Google βελτίωσε την υπηρεσία μετάφρασης προσθέτοντας ένα νευρωνικό δίκτυο. Τώρα το σύστημα έχει τη δυνατότητα πολύ αποτελεσματικότερης μετάφρασης, συμπεριλαμβανομένων των γλωσσικών ζευγών που δεν διδάσκονται ρητώς. Ο ρυθμός επιτυχίας του δικτύου εξέπληξε την ομάδα της Google. Οι ερευνητές ανακάλυψαν οτι η AI είχε αθόρυβα γράψει τη δική της γλώσσα που είχε προσαρμοστεί ειδικά στον σκοπό μετάφρασης προτάσεων.

Αν οι γλώσσες που εφευρέθηκαν από την ΑΙ γίνουν ευρέως διαδεδομένες τότε θα αποτελέσουν μια απειλή που μπορεί να δώσει στις μηχανές τη δύναμη να εξουσιάζουν τους χειριστές τους.

Θα καταστήσουν την ανάπτυξη της AI ακόμα πιο δύσκολη καθώς οι άνθρωποι δεν θα μπορούν να καταβάλουν την υπερβολικά λογική φύση της γλώσσας. Ενώ φαίνεται ανόητη, τα αποτελέσματα που διαπιστώνονται από τις ομάδες όπως αυτή του Google Translate θα δείχνουν ότι στην πραγματικότητα αντιπροσωπεύουν την πιο αποτελεσματική λύση στα μεγάλα προβλήματα.

James Walker

Απόδοση/Μετάφραση απο το DigitalJournal.Com για την Προέλαση.

About The Author

Παρατηρητής και ιστογράφος θεμάτων αμυντικής τεχνολογίας. Δεσμευμένος με τις Ελληνικές Ένοπλες Δυνάμεις και παθιασμένος με οτιδήποτε στρατιωτικό.

5 Σχόλια

  1. Theognostos

    Εν τω μεταξύ οι Ανθρωποι γίνονται ποιό μαλθακοί ενώ στην πραγματικότητα ο άνθρωπος όταν ξεκληδώσει και αρχίσει νά χρησιμοποιεί έστω καί σαράντα τοις εκατό τού εγκεφάλου τότε η νοημοσύνη θά αυξηθεί κατακόρυφα. Τό πρόβλημα επίκειται στό ότι θά εμφυτεύουν πνέυμα μέσα σέ ρομπότ ώστε ο άνθρωπος θά είναι τελείως δούλος.

    Απάντηση
    • Κυριάκος

      Δεν υπάρχει ΑΙ. Υπάρχει μόνο ένα IF και λούπες. Αυτά δεν αρκούν ούτε για νοημοσύνη αμοιβάδας. Ακόμα και με τρισεκατομύρια γραμμές κώδικα.

      Απάντηση
      • Μήτσιας Ευστάθιος

        Αλλά αν το πάρουμε εντελώς αναλογικά και ορίσουμε αυθαίρετα ως σημείο μηδέν την χρονική στιγμή εφεύρεσης του ENIAC η εμφάνιση τέτοιου είδους νοημοσύνης απαίτησε μόνο λίγες δεκαετίες , εν αντιθέσει με τα πολλά εκατομμύρια έτη που χρειάστηκαν για την εμφάνιση μίας πραγματικής αμοιβάδας . Η γεωμετρική πρόοδος ανάπτυξης της Τεχνητής Νοημοσύνης είναι ο πραγματικός κίνδυνος . Και αν δεν ελέγξουμε τον τρόπο ανάπτυξής της , θα δούμε στην διάρκεια της δικής μας ζωής , την εμφάνιση μίας Τ.Ν. με ανθρώπινες ικανότητες και έτι πιο εξελιγμένες . Και αν ανατρέξουμε στον Δαρβίνο , δεν μπορούμε να αρνηθούμε την πιθανότητα μίας εξελικτικής στροφής σε περίεργα μονοπάτια . Στην ανθρώπινη Ιστορία εξάλλου , είναι πάμπολλα τα παραδείγματα ολοκληρωτικής εξόντωσης ανθρώπινων πληθυσμών όταν ήρθαν σε επαφή με πιο εξελιγμένους πληθυσμούς . Αυτό δημιουργεί πολλές ανησυχίες ! Δεν το νομίζετε ;

ΔΕΝ επιτρέπονται απαξιωτικοί και υβριστικοί χαρακτηρισμοί εναντίον στελεχών των Ενόπλων Δυνάμεων και των Σωμάτων Ασφαλείας. Υποβάλλοντας το σχόλιο σου επιβεβαιώνεις ότι έχεις διαβάσει και αποδεχθεί τους όρους χρήσης και σχολιασμού του ιστοτόπου. Η ευθύνη των σχολίων (αστική και ποινική) βαρύνει τους σχολιαστές. Οι απόψεις που εκφράζονται δεν αντιπροσωπεύουν εκείνες της "Προέλασης" και δεν πρέπει να εκλαμβάνονται ως τέτοιες.

Σχολιάστε

Αρέσει σε %d bloggers: