Τζέφρι Χίντον: Οι προειδοποιήσεις για την Τεχνητή Νοημοσύνη μετά την παραίτηση από την Google – «Μπορεί να γίνει πιο έξυπνη από τον άνθρωπο»
Η παραίτηση του Τζέφρι Χίντον που θεωρείται «νονός» της Τεχνητής Νοημοσύνης (AI), από την Google συνοδευόμενη με προειδοποιήσεις για τους κινδύνους της AI έχει «φουντώσει» για ακόμη μια φορά τις συζητήσεις τις τελευταίες εβδομάδες.Ο 75χρονος επιστήμονας, πρωτοπόρος της Τεχνητής Νοημοσύνης είπε ότι παραιτήθηκε ώστε να μπορεί να μιλάει ελεύθερα σχετικά με τους κινδύνους που ενέχει η τεχνολογία αυτή έχοντας συνειδητοποιήσει ότι οι υπολογιστές μπορεί να γίνουν εξυπνότεροι από τον άνθρωπο πολύ νωρίτερα από ότι ο ίδιος και άλλοι ειδικοί ανέμεναν.
«Παραιτήθηκα ώστε να μπορώ να μιλάω για τους κινδύνους από την AI χωρίς να πρέπει να σκεφτώ με ποιον τρόπο αυτό θα επηρεάσει την Google», έγραψε στο Twitter ο Τζέφρι Χίντον.Σε συνέντευξή του στην εφημερίδα Τhe New York Times, ο Χίντον εξέφρασε την ανησυχία του σχετικά με την ικανότητα της τεχνητής νοημοσύνης να δημιουργεί πειστικές ψευδείς εικόνες και κείμενα συνθέτοντας έναν κόσμο όπου οι άνθρωποι «δεν θα μπορούν πλέον να γνωρίζουν τι είναι αληθινό».
«Είναι δύσκολο να δει κάποιος πώς μπορεί να εμποδίσει τους κακόβουλους χρήστες από το να τη χρησιμοποιήσουν για αρνητικούς λόγους», σχολίασε.
Η τεχνολογία αυτή θα μπορούσε σύντομα να αντικαταστήσει το υπαλληλικό προσωπικό και να καταστεί μεγαλύτερος κίνδυνος καθώς μαθαίνει νέες συμπεριφορές.
«Η ιδέα ότι αυτό το πράγμα θα μπορούσε ουσιαστικά να γίνει εξυπνότερο από τον άνθρωπο…λίγοι το πίστευαν. Αλλά οι περισσότεροι θεωρούσαν ότι ήταν μακρινό. Νόμιζα ότι θα γινόταν σε 30 με 50 χρόνια, ίσως και περισσότερα. Προφανώς πλέον δεν πιστεύω κάτι τέτοιο, είναι τρομακτικό», είπε ο Χίντον στους New York Times.Σύμφωνα με τον Χίντον, η ίδια η Google «ενήργησε πολύ υπεύθυνα» και διέψευσε, σύμφωνα με το ΑΠΕ-ΜΠΕ, ότι παραιτήθηκε για να μπορεί να κατακρίνει τον πρώην εργοδότη του.
Η Google, θυγατρική εταιρεία της Alphabet Inc, δεν απάντησε άμεσα σε αίτημα για σχόλιο από το Reuters.
Η παραίτηση του Χίντον ακολουθεί έναν αυξανόμενο αριθμό εμπειρογνωμόνων που έχουν προειδοποιήσει ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει σημαντική βλάβη χωρίς την κατάλληλη εποπτεία και ρύθμιση. Ο Έλον Μασκ και περισσότερες από 1.000 άλλες εξέχουσες προσωπικότητες στον τομέα της τεχνητής νοημοσύνης ζήτησαν εξάμηνη παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, επικαλούμενοι τους πιθανούς «βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα».
Ο Χίντον και οι «σημαντικές ανακαλύψεις στον τομέα του deep learning»
Ο Χίντον, ο οποίος τιμήθηκε με το βραβείο Turing για την εργασία του στα νευρωνικά δίκτυα που περιγράφονται ως «σημαντικές ανακαλύψεις στην τεχνητή νοημοσύνη», εργαζόταν για την Google από τότε που ο τεχνολογικός γίγαντας εξαγόρασε μια startup που ίδρυσε ο ίδιος μαζί με δύο φοιτητές του, τον Alex Krishevsky και τον Ilya Sutskever.
Η ομάδα του ανέπτυξε ένα νευρωνικό δίκτυο που εκπαιδεύτηκε να αναγνωρίζει κοινά αντικείμενα, όπως αυτοκίνητα ή ζώα, αναλύοντας χιλιάδες φωτογραφίες. Ο Sutskever είναι σήμερα επικεφαλής επιστήμονας του OpenAI, που έχει δημιουργήσει το ChatGPT.
Ένα εκτενές βιογραφικό σημείωμα για τον Χίντον στον ιστότοπο της Google επαινεί τα επιτεύγματά του -σημειώνοντας ότι «πραγματοποίησε σημαντικές ανακαλύψεις στον τομέα του deep learning, που έφεραν επανάσταση στην αναγνώριση ομιλίας και στην ταξινόμηση αντικειμένων».
Από την άλλη, ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν, υπερασπίστηκε τις προσπάθειες της εταιρείας για την τεχνητή νοημοσύνη, δηλώνοντας ότι παραμένει προσηλωμένη σε μια υπεύθυνη προσέγγιση της AI.
Enikos.gr
«Παραιτήθηκα ώστε να μπορώ να μιλάω για τους κινδύνους από την AI χωρίς να πρέπει να σκεφτώ με ποιον τρόπο αυτό θα επηρεάσει την Google», έγραψε στο Twitter ο Τζέφρι Χίντον.Σε συνέντευξή του στην εφημερίδα Τhe New York Times, ο Χίντον εξέφρασε την ανησυχία του σχετικά με την ικανότητα της τεχνητής νοημοσύνης να δημιουργεί πειστικές ψευδείς εικόνες και κείμενα συνθέτοντας έναν κόσμο όπου οι άνθρωποι «δεν θα μπορούν πλέον να γνωρίζουν τι είναι αληθινό».
«Είναι δύσκολο να δει κάποιος πώς μπορεί να εμποδίσει τους κακόβουλους χρήστες από το να τη χρησιμοποιήσουν για αρνητικούς λόγους», σχολίασε.
Η τεχνολογία αυτή θα μπορούσε σύντομα να αντικαταστήσει το υπαλληλικό προσωπικό και να καταστεί μεγαλύτερος κίνδυνος καθώς μαθαίνει νέες συμπεριφορές.
«Η ιδέα ότι αυτό το πράγμα θα μπορούσε ουσιαστικά να γίνει εξυπνότερο από τον άνθρωπο…λίγοι το πίστευαν. Αλλά οι περισσότεροι θεωρούσαν ότι ήταν μακρινό. Νόμιζα ότι θα γινόταν σε 30 με 50 χρόνια, ίσως και περισσότερα. Προφανώς πλέον δεν πιστεύω κάτι τέτοιο, είναι τρομακτικό», είπε ο Χίντον στους New York Times.Σύμφωνα με τον Χίντον, η ίδια η Google «ενήργησε πολύ υπεύθυνα» και διέψευσε, σύμφωνα με το ΑΠΕ-ΜΠΕ, ότι παραιτήθηκε για να μπορεί να κατακρίνει τον πρώην εργοδότη του.
Η Google, θυγατρική εταιρεία της Alphabet Inc, δεν απάντησε άμεσα σε αίτημα για σχόλιο από το Reuters.
Η παραίτηση του Χίντον ακολουθεί έναν αυξανόμενο αριθμό εμπειρογνωμόνων που έχουν προειδοποιήσει ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει σημαντική βλάβη χωρίς την κατάλληλη εποπτεία και ρύθμιση. Ο Έλον Μασκ και περισσότερες από 1.000 άλλες εξέχουσες προσωπικότητες στον τομέα της τεχνητής νοημοσύνης ζήτησαν εξάμηνη παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, επικαλούμενοι τους πιθανούς «βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα».
Ο Χίντον και οι «σημαντικές ανακαλύψεις στον τομέα του deep learning»
Ο Χίντον, ο οποίος τιμήθηκε με το βραβείο Turing για την εργασία του στα νευρωνικά δίκτυα που περιγράφονται ως «σημαντικές ανακαλύψεις στην τεχνητή νοημοσύνη», εργαζόταν για την Google από τότε που ο τεχνολογικός γίγαντας εξαγόρασε μια startup που ίδρυσε ο ίδιος μαζί με δύο φοιτητές του, τον Alex Krishevsky και τον Ilya Sutskever.
Η ομάδα του ανέπτυξε ένα νευρωνικό δίκτυο που εκπαιδεύτηκε να αναγνωρίζει κοινά αντικείμενα, όπως αυτοκίνητα ή ζώα, αναλύοντας χιλιάδες φωτογραφίες. Ο Sutskever είναι σήμερα επικεφαλής επιστήμονας του OpenAI, που έχει δημιουργήσει το ChatGPT.
Ένα εκτενές βιογραφικό σημείωμα για τον Χίντον στον ιστότοπο της Google επαινεί τα επιτεύγματά του -σημειώνοντας ότι «πραγματοποίησε σημαντικές ανακαλύψεις στον τομέα του deep learning, που έφεραν επανάσταση στην αναγνώριση ομιλίας και στην ταξινόμηση αντικειμένων».
Από την άλλη, ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν, υπερασπίστηκε τις προσπάθειες της εταιρείας για την τεχνητή νοημοσύνη, δηλώνοντας ότι παραμένει προσηλωμένη σε μια υπεύθυνη προσέγγιση της AI.
Enikos.gr
Σχόλια