Στα τέλη του 2016, ο δημοφιλής θεωρητικός φυσικός Stephen Hawking εξέδωσε ένα προειδοποιητικό σημείωμα για την ολοένα επιταχυνόμενη πρόοδο της Τεχνητής Νοημοσύνης (ΤΝ), φρονώντας ότι θα είναι “είτε ό,τι καλύτερο, είτε ό,τι χειρότερο έχει συμβεί στην ανθρωπότητα”.
Πολλοί συνέτρεξαν να μοιραστούν αυτή την ανησυχία, ενώ άλλοι την καταδίκασαν ως νεολουδίτικη εκφορά, ίσως επειδή ο Hawking ανήκει σε παλαιότερη γενιά, πιο φοβική με τις νέες τεχνολογίες. Όλοι μας, ωστόσο, έχουμε παρακολουθήσει δυστοπικές ταινίες, όπως o Terminator, και ανησυχήσαμε ολίγον τι με τους μετα-αποκαλυπτικούς εφιάλτες, που έπονται μιας αιφνίδιας εκτροπής ενός συστήματος ΤΝ, όταν αποκτά αυτεπίγνωση και ίδια κίνητρα.
Πράγματι διολισθαίνουμε σε αχαρτογράφητες ατραπούς. Η καθημερινότητα μας θα μετασχηματιστεί το δίχως άλλο. Πώς όμως; Θα αποδειχθεί η ΤΝ φορέας πραγμάτωσης μιας νέας τεχνολογικής επανάστασης αντίστοιχου βεληνεκούς με του ηλεκτρισμού; Ή θα επιβεβαιώσει τα δυστοπικά σενάρια του Hollywood;
Tο μήνυμα είναι σαφές: εάν βάλουμε διαφορετικά συστήματα ΤΝ να ανταγωνίζονται μεταξύ τους λόγω αντικρουόμενων συμφερόντων, η έριδα ενδεχομένως να καταλήξει επικίνδυνη.
Ας μην σπεύδουμε να προδικάσουμε το μέλλον ως ευοίωνο ή δυσοίωνο. Συνήθως τείνουμε αντιστοίχως λόγω της ιδιοσυγκρασίας μας και των προσλαμβανουσών μας. Μία πιο ψύχραιμη και τεκμηριωμένη προσέγγιση, εγνωσμένης αβεβαιότητας, ίσως είναι και η ασφαλέστερη οδός στοχασμού και περίσκεψης. Προς αυτή την κατεύθυνση σας παρουσιάζω την εξής νέα έρευνα:
Η ερευνητική ομάδα της εταιρίας Deep Mind, πρόσφατα αποκτηθείσας από την Alphabet για 400 εκ. βρετανικές λίρες, δημοσιεύει ένα επιστημονικό άρθρο -το οποίο δεν έχει επιθεωρηθεί ακόμη από ομοτίμους- για το πως η τεχνητή νοημοσύνη γίνεται επιθετική σε ανταγωνιστικά, “στρεσογόνα” περιβάλλοντα.
Η Deep Mind είχε αποκτήσει ιδιαίτερη δημοφιλία πέρυσι, όταν έμαθε πως i) να κερδίζει ακόμη και τους ικανότερους παίκτες του Go -παιχνίδι ομολογουμένως δύσκολο-, ii) να πλοηγείται στο μετρό του Λονδίνου, χωρίς να έχει λάβει την παραμικρή προγραμματισμένη οδηγία, και iii) να μιμείται τέλεια τη χροιά της ανθρώπινης φωνής.
Εν προκειμένω, η εταιρία έτρεξε 40.000.000 προσομοιώσεις ενός απλού παιχνιδιού «συλλογής φρούτων», βάζοντας δύο ψηφιακούς πράκτορες, να ανταγωνίζονται μεταξύ τους για το ποιος θα συγκεντρώσει περισσότερα εικονικά μήλα!
Εν αρχή, τα πράγματα κυλούσαν ομαλά, εφόσον υπήρχε πληθώρα μήλων. Μόλις, όμως, άρχισαν να λιγοστεύουν, οι δύο πράκτορες άρχισαν να γίνονται πιο επιθετικοί, χρησιμοποιώντας ακτίνες λέιζερ για να χτυπούν ο ένας τον άλλον, και να εξασφαλιστεί ότι ο καθείς θα αναδειχθεί στην κορυφή.
Ενδιαφέρον παρουσιάζει το γεγονός ότι σε συμβιβαστική λύση ειρηνικής συνύπαρξης -που θα κατέληγε με διόλου αμελητέα ποσότητα για τον καθένα- επέλεξαν να εφαρμόσουν μόνο τα λιγότερο ευφυή τεχνητά νευρωνικά δίκτυα.
Τα μεγαλύτερα και πιο σύνθετα, που προσφέρουν αυξημένη αναλυτική ικανότητα, ωθούσαν τους πράκτορες να γίνονται όλο και πιο άπληστοι, εφευρίσκοντας περίπλοκες στρατηγικές για να σαμποτάρουν τον αντίπαλο και να αποκτήσουν τη μερίδα του λέοντος.
Μπορείτε να παρακολουθήσετε το παιχνίδι στο παρακάτω βίντεο, με τους πράκτορες της DeepMind σε μπλε και κόκκινο χρώμα, τα εικονικά μήλα σε πράσινο, και τις ακτίνες λέιζερ σε κίτρινο.
Το μοντέλο αυτό αποδεικνύει ότι ορισμένες πτυχές της ανθρώπινης συμπεριφοράς, όπως η ανταγωνιστικότητα και η επιθετικότητα, προκύπτουν ακόμη και σε συστήματα τεχνητής νοημοσύνης, ως προϊούσες μάθησης, συνθηκών περιβάλλοντος, και εξελικτικής πίεσης.
Και ενώ τα συμπεράσματα απορρέουν από αθώα εικονικά παιχνίδια σε υπολογιστικές προσομοιώσεις, το μήνυμα είναι σαφές: εάν βάλουμε διαφορετικά συστήματα ΤΝ να ανταγωνίζονται μεταξύ τους λόγω αντικρουόμενων συμφερόντων, η έριδα ενδεχομένως να καταλήξει επικίνδυνη.
Φανταστείτε, η ΤΝ να ελέγχει τα φανάρια και να επιβραδύνει την κίνηση οχημάτων χρηματιστών, πολιτικών, δικηγόρων, ιατρών, αναλόγως με τα συμφέροντα που καλείται να εξυπηρετήσει. Προσθέστε τώρα και μια δεύτερη ΤΝ να ανταγωνίζεται την πρώτη. Χαμός!
Θα μπορούσε, λοιπόν, αυτή η νέα έρευνα να αποτελεί εγχειρίδιο αναφοράς για ρεαλιστικά σενάρια ενός δυστοπικού μέλλοντος;
Κατ’ αρχήν, να διευκρινίσουμε ότι η αυτενέργεια και ο ίδιος σκοπός δεν είναι αυθύπαρκτα σε ένα σύστημα, παρεκτός και αν αναδύονται αυθόρμητα από τις εγγενείς του ιδιότητες.
Η εξελικτική βιολογία μας διδάσκει, ότι οι οργανισμοί έχουν ως αυτοσκοπό την επιβίωση και τον πολλαπλασιασμό τους. Αυτό δεν είναι συνέπεια μιας μεταφυσική βούλησης, αλλά εγγενούς βιοχημικής ιδιότητας των συστατικών τους μορίων. Της αυτο-αντιγραφής. Σας παραπέμπω σε παλαιότερο μου άρθρο για περισσότερες λεπτομέρειες. Το πως θα μπορούσε η ΤΝ να υιοθετήσει στον πυρήνα της ύπαρξης της αυτή την ιδιότητα, χωρίς να της την ενσταλλάξουμε εμείς προγραμματιστικά, δεν το γνωρίζω.
Θα ήθελα μόνο να σημειώσω, ότι οι στοιχειώδεις μονάδες της ψηφιακής πληροφορίας (bits) αντιγράφονται ευκολότερα, και σαφώς ταχύτερα, από τις νουκλεοτιδικές βάσεις του DNA. Σαφέστατα, επίσης, έχουν επίδραση στον υλικό κόσμο.
Να είμαστε άραγε το τελευταίο σκαλοπάτι της πληθωρικής εξέλιξης του φαινομένου της ζωής; Τι ορίζουμε ως ζωή; Οποιαδήποτε αυτο-αντιγραφόμενη οντότητα εξυπηρετεί, πολλαπλασιαζόμενη και εξελισσόμενη, ολοένα και αποτελεσματικότερα το διάνυσμα-δυνάστη του σύμπαντος, που δείχνει απαρέγκλιτα στην αύξηση της εντροπίας;
Και κάπου εδώ σας αφήνω για περίσκεψη και αναστοχασμό
