Re: James Cameron: «Το 1984 σας προειδοποίησα αλλά δεν με ακούσατε – Η τεχνητή νοημοσύνη ο μεγαλύτερος κίνδυνος»
Δημοσιεύτηκε: 21 Ιούλ 2023, 18:55
Μα κι εγώ δεν λέω ότι ναι αυτό θα γίνει, αλλά είναι ένα ενδεχόμενο. Αφού δεν ξέρουμε πως εμείς έχουμε αίσθηση εαυτού, ούτε να το προκαλέσουμε επίτηδες μπορούμε, ούτε να αποκλείσουμε ότι θα συμβεί κατά λάθος.Stalker έγραψε: 21 Ιούλ 2023, 18:46Κανείς δεν έχει, αλλά παρόλαυτα μερικοί αυτοχαρακτηρίζονται ειδικοί στον τομέα και εκπονούν σκεπτοπειράματα σαν την αποκάλυψη δια συνδετηρομηχανής (δεν σε ψέγω προσωπικά ξέρω ότι δεν είναι δικό σου το παράδειγμα).Dwarven Blacksmith έγραψε: 21 Ιούλ 2023, 18:25Stalker έγραψε: 21 Ιούλ 2023, 18:21
Α ναι, η δοξασία που θέλει το μελλοντικό παντοδύναμο ΑΙ να έχει 1000000 IQ και ταυτόχρονα να είναι πολύ ηλίθιο για να ακολουθήσει απλές και σαφείς οδηγίες![]()
Το σενάριο του ζτεο πάσχει επειδή ο συλλογισμός πέφτει στην παγίδα ότι τεχνητή νοημοσύνη = τεχνητός άνθρωπος. Ειδικά τα περί σκοπού ύπαρξης είναι βασικά φιλοσοφικό coping κατά της θνητότητας και κατά πάσα πιθανότητα δεν αφορούν τυχόν όντα που θα είναι αβιολογικά και χωρίς αίσθηση εαυτού ( = ότι είναι ξεχωριστά από το περιβάλλον τους και σε αντιπαράθεση με άλλους εαυτούς).![]()
Δεν έχω συναντήσει και πολλά. Το χωρίς αίσθηση εαυτού από που προέκυψε;
Η ακαριαία εμφάνιση εαυτού είναι από τα βασικά question begging των ιστοριών για δράκους και AGI, δηλαδή ότι η αίσθηση του εαυτού και της υποκειμενικότητας και εν συνεχεία της αυτοσυντήρησης και της πρωτοβουλίας είναι πράγματα που θα έρθουν από μόνα τους αν φτυαρίσουμε αρκετούς νευρώνες σε έναν κουβά/ανεβάσουμε τέρμα τον διακόπτη IQ και όχι κάτι για το οποίο πρέπει να καταβληθεί ξεχωριστή προσπάθεια για να πάρει σχήμα.
Χωρίς μηχανές με 'εαυτό' το μόνο από το οποίο κινδυνεύουμε είναι εγκληματικά ανεύθυνη διοίκηση και software engineering, του τύπου που θα έδινε τον έλεγχο της βιομηχανικής παραγωγής ή των ενόπλων δυνάμεων μιας χώρας σε ένα σύστημα που ούτε τις παραμέτρους λειτουργίας του ξέρουμε ούτε πως να το σταματήσουμε after the fact.
Δηλαδή όλο αυτό μου φαίνεται λίγο σαν:
"αν υπήρχαν δράκοι θα μας έκαιγαν για το χρυσάφι μας"
"χα, wannabe δρακοειδικέ, πιο πιθανό να υπήρχαν wyverns που τρώνε μόνο πρόβατα"




