"Κίνδυνος για κοινωνία και ανθρωπότητα": Μασκ και 1.000 ειδικοί ζητούν παύση της ανάπτυξης Α.Ι
Ο Έλον Μασκ και μια ομάδα παγκοσμίως κορυφαίων ειδικών σε θέματα τεχνητής νοημοσύνης (Α.Ι.) και στελέχη του κλάδου, ζητούν εξάμηνη παύση στην ανάπτυξη συστημάτων πιο ισχυρών από το νέο GPT-4 του OpenA.I., τονίζοντας σε σχετική ανοιχτή επιστολή τους πιθανούς κινδύνους για την κοινωνία και την ανθρωπότητα.
Η επιστολή, που δημοσιεύτηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life και υπογράφεται από περισσότερα από 1.000 άτομα, συμπεριλαμβανομένου του Μασκ, ζητά να σταματήσει η ανάπτυξη προηγμένης τεχνητής νοημοσύνης έως ότου αναπτυχθούν, εφαρμοστούν και ελεγχθούν από ανεξάρτητους εμπειρογνώμονες κοινά πρωτόκολλα ασφαλείας για τέτοια σχέδια.
?Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι θα είναι διαχειρίσιμοι”, αναφέρει η επιστολή.
Σε αυτήν, περιγράφεται μια σειρά πιθανών κινδύνων για την κοινωνία και τον πολιτισμό από συστήματα τεχνητής νοημοσύνης ανταγωνιστικά για τον άνθρωπο, υπό τη μορφή οικονομικών και πολιτικών διαταραχών.
Οι υπογράφοντες μάλιστα καλούν τους προγραμματιστές να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για τη διακυβέρνηση και τις ρυθμιστικές αρχές.
Μεταξύ των υπογραφών είναι και αυτή του Διευθύνοντα Συμβούλου της Stability A.I., Εμαντ Μοσταγκ , ερευνητών στο DeepMind που ανήκει στην Alphabet, καθώς και οι βαρέων βαρών της τεχνητής νοημοσύνης Γιόσουα Μπέντζιο και Στιούαρ Ράσσελ.
Οι ανησυχίες που διατυπώνουν έρχονται την στιγμή που και η Europol, μόλις ένωσε την φωνή της με έναν αυξανόμενο αριθμό ειδικών, προσωπικοτήτων και φορέων που εκφράζουν πολύ σοβαρές ανησυχίες σε ηθικό και νομικό επίπεδο σχετικά με προηγμένη τεχνητή νοημοσύνη όπως το ChatGPT, προειδοποιώντας για πιθανή κακή χρήση του συστήματος σε απόπειρες phishing, παραπληροφόρηση και έγκλημα στον κυβερνοχώρο.
Εν τω μεταξύ, η κυβέρνηση του Ηνωμένου Βασιλείου είναι από τις λίγες χώρες που παρουσίασαν προτάσεις για ένα ”προσαρμόσιμο” ρυθμιστικό πλαίσιο γύρω από την τεχνητή νοημοσύνη.
Η προσέγγιση της κυβέρνησης, που περιγράφεται σε έγγραφο που δημοσιεύθηκε την Τετάρτη, μοιράζει την ευθύνη για τη διακυβέρνηση της τεχνητής νοημοσύνης μεταξύ των ρυθμιστών για τα ανθρώπινα δικαιώματα, την υγεία και την ασφάλεια και τον ανταγωνισμό, αντί να δημιουργήσει έναν νέο φορέα αφιερωμένο στην τεχνολογία.
Ο Μασκ, του οποίου η αυτοκινητοβιομηχανία Tesla χρησιμοποιεί A.I. για σύστημα αυτόματου πιλότου, έχει εκφράσει τις ανησυχίες του σχετικά με την τεχνητή νοημοσύνη.
Από την κυκλοφορία του πέρυσι, το ChatGPT του OpenA.I. που υποστηρίζεται από τη Microsoft ώθησε τους αντιπάλους της να επιταχύνουν την ανάπτυξη παρόμοιων μεγάλων μοντέλων και τις εταιρείες να ενσωματώσουν μοντέλα γενετικής τεχνητής νοημοσύνης στα προϊόντα τους.
Ο Σαμ Άλτμαν, διευθύνων σύμβουλος στο OpenA.I., δεν έχει υπογράψει την επιστολή, όπως δήλωσε στο Reuters εκπρόσωπος του Future of Life και το OpenA.I. δεν απάντησε αμέσως σε αίτημα για σχόλιο.
?Η επιστολή δεν είναι τέλεια, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα ποιες είναι οι συνέπειες”, είπε ο Γκάρι Μάρκους, καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης που υπογράφει την επιστολή.
?Μπορεί να προκαλέσουν σοβαρή ζημιά... οι μεγάλοι παίκτες γίνονται ολοένα και πιο μυστικοπαθείς για το τι κάνουν, γεγονός που καθιστά δύσκολο για την κοινωνία να αμυνθεί έναντι οποιασδήποτε ζημιάς μπορεί να προκληθεί”.
Σύμφωνα με το μητρώο διαφάνειας της Ευρωπαϊκής Ένωσης, το Ινστιτούτο Future of Life χρηματοδοτείται κυρίως από το Ίδρυμα Μασκ, καθώς και από την υπερδραστήρια ”ομάδα αλτρουισμού” Founders Pledge με έδρα το Λονδίνο και το κοινοτικό Ίδρυμα Silicon Valley. - Πηγή: Reuters / huffingtonpost.gr
