Φαίνεται ότι ένας μήνας δεν περνάει χωρίς κάποιο υψηλού προφίλ πρόσωπο που σχολιάζει τη δυνατότητα μηχανών με Τεχνητή Νοημοσύνη να αναλάβουν τον κόσμο. Ο Elon Musk αναφέρει ότι τα συστήματα AI είναι "δυνητικά πιο επικίνδυνα από τα πυρηνικά". Αλλά δεν είναι ο μόνος, ο Stephen Hawking ανησυχεί επίσης: "Η ανάπτυξη πλήρους τεχνητής νοημοσύνης θα μπορούσε να σημάνει το τέλος της ανθρώπινης φυλής" Ο καθηγητής Hawking είπε στο BBC. «Θα ξεκινούσε μόνη της και θα ανασχεδιαζόταν με έναν συνεχώς αυξανόμενο ρυθμό». Ακόμη και ο Bill Gates ανησυχεί: «Είμαι στο στρατόπεδο που ανησυχεί για την έξοχη νοημοσύνη. Συμφωνώ με τον Elon Musk και με άλλους σχετικά με αυτό και δεν καταλαβαίνω γιατί δεν ανησυχούν μερικοί άνθρωποι. "

Όλοι εκφράζουν ανησυχίες σχετικά με τη δυνατότητα ισχυρών συστημάτων AI που έχουν απροσδόκητες ή ακόμη και δυνητικά καταστροφικές συνέπειες. Τον Ιανουάριο, ο Elon Musk έδωσε 10 εκατομμύρια δολάρια στο Ινστιτούτο του μέλλοντος της ζωής (FLI) για να διεξάγει ένα παγκόσμιο ερευνητικό πρόγραμμα που στοχεύει στη διατήρηση του AI ωφέλιμου για την ανθρωπότητα.

Σήμερα το Ινστιτούτο του μέλλοντος της ζωής ανακοίνωσε ότι έχει χορηγήσει κεφάλαια ύψους 7 εκατομμυρίων δολαρίων σε 37 ερευνητικές ομάδες σε ολόκληρο τον κόσμο, ώστε η κοινωνία να μπορέσει να αποκομίσει τα οφέλη της ΑΠ, αποφεύγοντας την αποκάλυψη και το τέλος της ζωής στη γη.

Ο κίνδυνος με το σενάριο Terminator δεν είναι ότι θα συμβεί, αλλά ότι αποσπά την προσοχή από τα πραγματικά ζητήματα που θέτει το μελλοντικό AI.

Ο Jaan Tallin, ένα από τα ιδρυτικά μέλη της FLI και ο τύπος που έγραψε την αρχική έκδοση του Skype, δήλωσε σχετικά με τη νέα έρευνα, "η κατασκευή προηγμένων AI είναι σαν να ξεκινήσει ένας πυραύλος. Η πρώτη πρόκληση είναι να μεγιστοποιήσετε την επιτάχυνση, αλλά μόλις ξεκινήσει να ανεβαίνει η ταχύτητα, θα πρέπει να εστιάσετε και στο τιμόνι. "

Μεταξύ των 37 έργων είναι τρία έργα που θα εξετάσουν τεχνικές που θα επιτρέψουν στα συστήματα AI να μάθουν τι προτιμούν οι άνθρωποι από την παρατήρηση της συμπεριφοράς μας. Ένα από αυτά τα έργα θα διεξαχθεί στο UC Berkeley και ένα στο Πανεπιστήμιο της Οξφόρδης.

Η Benja Fallenstein, στο Ινστιτούτο Έρευνας Μηχανικών Πληροφοριών, κερδίζει 250.000 δολάρια σε ερευνητικούς τρόπους για να διατηρήσει τα συμφέροντα των υπερευαίσθητων συστημάτων ευθυγραμμισμένα με τις ανθρώπινες αξίες. Ενώ η ομάδα της Manuela Veloso, από το Πανεπιστήμιο Carnegie-Mellon, θα λάβει $ 200.000 για να εξετάσει πώς να κάνει τα συστήματα AI να εξηγήσουν τις αποφάσεις τους στον άνθρωπο.

Άλλα έργα περιλαμβάνουν μελέτη του Michael Webb του Πανεπιστημίου Stanford για το πώς θα κρατήσει τις οικονομικές επιπτώσεις του AI ωφέλιμη, ένα έργο για το πώς θα κρατηθούν τα όπλα που οδηγούνται από AI υπό «ουσιαστικό ανθρώπινο έλεγχο» και ένα νέο ερευνητικό κέντρο Oxford-Cambridge για τη μελέτη AI - σχετική πολιτική.

Αυτό το τελευταίο είναι το μεγάλο τζάκποτ. Το νέο κέντρο που ονομάζεται "Στρατηγικό Κέντρο Έρευνας για την Τεχνητή Νοημοσύνη" θα διευθύνεται από τον Nick Bostrom, τον άνθρωπο που έγραψε το βιβλίο που προκάλεσε τον Έλον να πανικοβληθεί για το μέλλον της ανθρωπότητας. Για να ρυθμίσετε το κέντρο, το FLI δίνει στο Bostrom ένα δροσερό 1,5 εκατομμύριο δολάρια. Ποιος είπε ότι δεν υπήρχαν χρήματα στο γράψιμο πράγματα για τα ρομπότ που ανέλαβαν τον κόσμο; Καλά κανένας κανένας, απλά κοιτάξτε πόσα χρήματα κάνει το Χόλιγουντ από αυτό το είδος!

Μιλώντας στο Χόλιγουντ, η FLI προσπαθεί να διαχωριστεί από την αποκάλυψη. Το FLI επιθυμεί να τονίσει τη σημασία του διαχωρισμού του γεγονότος από τη μυθοπλασία. "Ο κίνδυνος με το σενάριο Terminator δεν είναι ότι θα συμβεί, αλλά ότι αποσπά την προσοχή από τα πραγματικά ζητήματα που θέτει η μελλοντική AI", δήλωσε ο πρόεδρος της FLI Max Tegmark. "Είμαστε διατεθειμένοι να επικεντρωθούμε και οι 37 ομάδες που υποστηρίζονται από τις σημερινές επιχορηγήσεις θα πρέπει να βοηθήσουν στην επίλυση τέτοιων πραγματικών ζητημάτων".

Τι νομίζετε; Χρήματα που ξοδεύτηκαν καλά;