James Cameron: «Το 1984 σας προειδοποίησα αλλά δεν με ακούσατε – Η τεχνητή νοημοσύνη ο μεγαλύτερος κίνδυνος»

[Bill Hicks]

*robot*

[Bill Hicks]

σαν καλός χριστιανός μπερδεύω την τεχνολογία με την βιολογία για να στηρίξω την πίστη μου

φιξντ

[Bill Hicks]

Καλά, ας υπάρξει πρώτα τεχνητή νοημοσύνη και μετά να συζητήσουμε για τους κινδύνους της.

Spoiler

Προς το παρών αυτό που έχουμε είναι μία πυθία που βγάζει χρησμούς (πότε σωστούς και πότε λάθος, μην το ξεχνάμε αυτό) πάνω στα κείμενα που υπάρχουν στο internet.

Και δεν είναι ότι δεν έχει νοημοσύνη, ή συνείδηση... αλλά ότι προς το παρών δεν έχει καν μνήμη ! Ο τρόπος που δουλεύει είναι ότι προσπαθεί να βρει τον κατάλληλο χρησμό παίρνοντας την κουβέντα κάθε φορά από την αρχή. Δηλαδή αν του πεις στον δέκατο διάλογο κάτι αναφορικά με τον πρώτο διάλογο θα δώσει απάντηση που είναι σχετική με τον πρώτο διάλογο όχι επειδή έχει αφομοιώσει και καταλαβαίνει το νόημα της κουβέντας αλλά επειδή αυτός είναι ο κατάλληλος χρησμός στο σύνολο του κειμένου του διαλόγου. Μόλις το "παράθυρο" του διαλόγου κυλήσει και σταματήσει να το χρησιμοποιεί τίποτα απολύτως δεν μένει από την κουβέντα στο "μυαλό" του.

Και δεν λέω ότι δεν είναι εντυπωσιακό σαν τεχνολογία. Είναι εξαιρετικά εντυπωσιακό. Τόσο εντυπωσιακό που πολλοί σκεπτικιστές ως προς το μέλλον αυτής της τεχνολογίας έχουν πει ότι έπεσαν έξω στις προβλέψεις τους και ποτέ δεν περίμεναν να δουν κάτι τέτοιο τόσο σύντομα.

Αλλά από εκεί μέχρι το έρχεται ο terminator... εντάξει... κάνουμε την τρίχα τριχιά.

συμφωνεί και ο Κάμερον

[Bill Hicks]

Το ακρον αωτον του κινδυνου θα ηταν το παρακατω σεναριο: ενας δικτατορας, πιχι ο Κιμ, να ανεθετε στους επιστημονες του που εχουν δημιουργησει ενα προχωρημενο μοντελο ΑΙ, να του δωσουν οδηγιες να επιννοησει ενα ιδιαιτερα θανατηφορο ιο που ομως να στοχευει ανθρωπους με διαφορετικα γεννετικα χαρακτηριστικα των Βορειοκορεατων.

.

[Green Dragon]

Δεν χρειάζεται κίνητρο, ο υπολογιστής κάνει ότι κάνει χωρίς κανένα κίνητρο. Όπως το κομπιουτεράκι σου εμφανίζει στην οθόνη ότι 1+1 κάνει 2.

ο υπολογιστής δεν κάνει τίποτα χωρίς να του έχει πει κάποιος να το κάνει σε κάποιο σημείο της κατασκευής του.

Μα δεν λέω κάτι άλλο. Μπορεί η εντολή που θ' ανοίξει το κουτί της Πανδώρας να είναι 'Μάθε'.

Δεν έχω συναντήσει και πολλά. Το χωρίς αίσθηση εαυτού από που προέκυψε;

Κανείς δεν έχει, αλλά παρόλαυτα μερικοί αυτοχαρακτηρίζονται ειδικοί στον τομέα και εκπονούν σκεπτοπειράματα σαν την αποκάλυψη δια συνδετηρομηχανής (δεν σε ψέγω προσωπικά ξέρω ότι δεν είναι δικό σου το παράδειγμα).

Η ακαριαία εμφάνιση εαυτού είναι από τα βασικά question begging των ιστοριών για δράκους και AGI, δηλαδή ότι η αίσθηση του εαυτού και της υποκειμενικότητας και εν συνεχεία της αυτοσυντήρησης και της πρωτοβουλίας είναι πράγματα που θα έρθουν από μόνα τους αν φτυαρίσουμε αρκετούς νευρώνες σε έναν κουβά/ανεβάσουμε τέρμα τον διακόπτη IQ και όχι κάτι για το οποίο πρέπει να καταβληθεί ξεχωριστή προσπάθεια για να πάρει σχήμα.

Χωρίς μηχανές με 'εαυτό' το μόνο από το οποίο κινδυνεύουμε είναι εγκληματικά ανεύθυνη διοίκηση και software engineering, του τύπου που θα έδινε τον έλεγχο της βιομηχανικής παραγωγής ή των ενόπλων δυνάμεων μιας χώρας σε ένα σύστημα που ούτε τις παραμέτρους λειτουργίας του ξέρουμε ούτε πως να το σταματήσουμε after the fact.

Αυτό που έγραψες εννοώ. Δεν χρειάζεται να υπάρχει συνείδηση για να γίνει το κακό.

[Αλιόσα]

σαν καλός χριστιανός μπερδεύω την τεχνολογία με την βιολογία για να στηρίξω την πίστη μου

φιξντ

με επιβεβαιώνεις

[axilmar]

Μα αυτο λεω και γω, οτι θα φταινε οι ανθρωποι που το εκπαιδευσαν.

όχι λέμε διαφορετικά πράγματα.το θέμα μας δεν είναι να βρούμε ποιος φταίει για να τον μαλώσουμε

Φυσικα και αυτο ειναι το θεμα μας.

Η ΑΙ ειναι τεχνητη (artificial), δλδ μπαινει ο ανθρωπινος παραγοντας,

Η ΑΙ θα βγαζει συμπερασματα αναλογα με αυτα που εχει ως input.

[nowhere]

μόνο που ο ανβρώπινος παράγοντας δεν είναι ο θανάσης,είναι άπειρες ομάδες ανθρώπων με διαφορετικά συμφέροντα ηθική και όρια που τεχνικά δεν γίνεται να ελεγχθούν

[ΑΛΟΓΟΜΟΥΡΗΣ]