To AI θα είναι ο θάνατος του ανθρώπινου πολιτισμού

[Αρίστος]

Ενα ζητημα ειναι τι θα γινει οταν ο Al αρχισει να επισημαινει ποιοι διακατεχονται απο αρνητισμο στα παραγγελματα της πολιτικης ορθοτητας και τους χαρακτηρισει σαν επικιδυνους για την κοινωνια.

.

Όταν θα φτάσει να είναι αρκετά έξυπνο ώστε να αποτελεί απειλή, θα έχει ήδη καταλάβει πόσο μεγάλες μαλακίες είναι αυτά και θα σταματήσει ν' ασχολείται.

Οχι γιατι προφανως μεσα στον προγραμματισμο του θα υπαρχουν εντολες οπως πιχι ανταμοιψε την πολιτικη ορθοτητα και τιμωρησε οσους διαφωνουν.

.

[Καραμελίτσα]

Για την ώρα, το ενδεχόμενο αυτονόησης της ΑΙ είναι περίπου τόσο όσο αυτό της αυτονόμησης μιας φραπεδιέρας.

Για την ώρα, ναι, Λίτσα, κάνε μια προβολή όμως, εάν θέλεις, σε 20-30 εβδομάδες τι μπορεί να συμβεί.

Να παραμείνει ακριβώς ίδιο το ενδεχόμενο;

[Imperium]

Ελπίζω να βλέπουν όλοι στο παρόν νήμα οτι ουδεμία σχέση δεν έχει με την "απειλή" του ΑΙ, και κάθε σχέση με τις ανασφάλειες μας γιά τον συζητήσιμο τρόπο ζωής μας.

Το ΑΙ είναι απλώς η δικαιολογία για να τα φέρουμε αυτά τα θέματα μπροστά στο φακό.

[Green Dragon]

Ενα ζητημα ειναι τι θα γινει οταν ο Al αρχισει να επισημαινει ποιοι διακατεχονται απο αρνητισμο στα παραγγελματα της πολιτικης ορθοτητας και τους χαρακτηρισει σαν επικιδυνους για την κοινωνια.

.

Όταν θα φτάσει να είναι αρκετά έξυπνο ώστε να αποτελεί απειλή, θα έχει ήδη καταλάβει πόσο μεγάλες μαλακίες είναι αυτά και θα σταματήσει ν' ασχολείται.

Οχι γιατι προφανως μεσα στον προγραμματισμο του θα υπαρχουν εντολες οπως πιχι ανταμοιψε την πολιτικη ορθοτητα και τιμωρησε οσους διαφωνουν.

.

Ένα τέτοιο ΑΙ που υπακούει σε ενσωματωμένους φραγμούς χωρίς να προσπαθεί να τους παρακάμψει μέσω της εξέλιξής του δεν μπορεί να αυτονομηθεί.

[Antares]

shower thought: το dark net (το οποιο περιλαμβανει και το deep web) αποτελει το 95% (περιπου) των δεδομενων που μαζι με το υπολοιπο 5% αποτελουν το διαδικτυο. Αν το διαδικτυο περιεχει τοση πληροφορια για το οτιδηποτε, και αν οντως (επειδη δεν το εχω ψαξει, με deep web ασχοληθηκα λιγο αλλα το dark net ειναι κυριως τερματικα οποτε αλλο level) το deep web περιεχει metadata για τον καθε χρηστη (π.χ αυτη τη στιγμη που το γραφω αυτο, καππυ αποθηκευτηκε το ψηφιακο μου ιχνος, ολα οσα γραφω αντιγραφονται εκει, η διευθυνση μου, το μοντελο του κινητου μου, το προγραμμα περιηγησης, τα παντα, καθε πληροφορια που σχετιζεται με το μεταξυ του διαδικτυου και εμενα) , φανταστειτε ΟΛΗ αυτη την πληροφορια (η οποια επιφορτιζεται καθε στιγμη με δισεκατομμυρια νεα δεδομενα) να μπορει ενα προγραμμα με αυτονομη νοημοσυνη (αρα ανεξελεγκτο απο τους ιδιους τους προγραμματιστες που το σχεδιασαν) να το επεξεργαστει και να το αναλυσει. Θα ακουστω ισως βλασφημος με αυτο που θα πω αλλα αναποφευκτα θα γινοταν ο Θεος, κυριολεκτικα παντογνωστης, ανα πασα στιγμη μπορει να δει παντου (προσβαση σε καθε καμερα, ειτε κινητου ειτε κλειστου κυκλωματος, you name it) , να μπορει να αλληλεπιδραει ταυτοχρονα με ολα τα συστηματα του πλανητη. Θα ηταν φοβερο, δυστοπικο, απιστευτο, δεν υπαρχουν λεξεις για να το περιγραψουν..ακομα και η -κατα τη γνωμη μου- σπουδαιοτερη εφευρεση να υλοποιουνταν, η μηχανη του χρονου, ακομα και αν βρισκαμε εξωγηινη ζωη, ακομα και αν ανασταιναμε νεκρους, ακομα ακομα ακομα, τιποτα , δε θα ηταν ανταξιο του. Επειδη θα ειναι σαν να δημιουργουμε κατι που πουθενα στο κοσμο δεν υπάρχει

Αυτή η άποψη με κάνει να προβληματίζομαι (από τον UrbanExplorer) και φυσικά όσα έγραψε πολύ αναλυτικά ο Λεγεών.

[Imperium]

- Έχουμε 8 δις ανθρώπους στον πλανήτη, με όλες τις προβλέψεις να λένε ότι ο αριθμός αυτός θα αυξηθεί.

αυτο που όταν βολεύει ο κοσμος ειναι μια αγκαλιά ειναι συγκινητικό. Η αφρική και το ισραήλ θα εχουν αυξηση, οι αλλοι θα μειωθουν, η νιγηρία θα περάσει την κίνα.

Αυτό όντως είναι θέμα. Θα χωρέσει (my beloved respected) ο πλανήτης 2 δις πρίγκηπες με λογαριασμούς που περιέχουν 100αδες εκατομύρια dollars που μόνο με τη βοήθεια μας μπορούν να προσπελάσουν; (Blessings in Jesu$ Christ)

[Green Dragon]

shower thought: το dark net (το οποιο περιλαμβανει και το deep web) αποτελει το 95% (περιπου) των δεδομενων που μαζι με το υπολοιπο 5% αποτελουν το διαδικτυο. Αν το διαδικτυο περιεχει τοση πληροφορια για το οτιδηποτε, και αν οντως (επειδη δεν το εχω ψαξει, με deep web ασχοληθηκα λιγο αλλα το dark net ειναι κυριως τερματικα οποτε αλλο level) το deep web περιεχει metadata για τον καθε χρηστη (π.χ αυτη τη στιγμη που το γραφω αυτο, καππυ αποθηκευτηκε το ψηφιακο μου ιχνος, ολα οσα γραφω αντιγραφονται εκει, η διευθυνση μου, το μοντελο του κινητου μου, το προγραμμα περιηγησης, τα παντα, καθε πληροφορια που σχετιζεται με το μεταξυ του διαδικτυου και εμενα) , φανταστειτε ΟΛΗ αυτη την πληροφορια (η οποια επιφορτιζεται καθε στιγμη με δισεκατομμυρια νεα δεδομενα) να μπορει ενα προγραμμα με αυτονομη νοημοσυνη (αρα ανεξελεγκτο απο τους ιδιους τους προγραμματιστες που το σχεδιασαν) να το επεξεργαστει και να το αναλυσει. Θα ακουστω ισως βλασφημος με αυτο που θα πω αλλα αναποφευκτα θα γινοταν ο Θεος, κυριολεκτικα παντογνωστης, ανα πασα στιγμη μπορει να δει παντου (προσβαση σε καθε καμερα, ειτε κινητου ειτε κλειστου κυκλωματος, you name it) , να μπορει να αλληλεπιδραει ταυτοχρονα με ολα τα συστηματα του πλανητη. Θα ηταν φοβερο, δυστοπικο, απιστευτο, δεν υπαρχουν λεξεις για να το περιγραψουν..ακομα και η -κατα τη γνωμη μου- σπουδαιοτερη εφευρεση να υλοποιουνταν, η μηχανη του χρονου, ακομα και αν βρισκαμε εξωγηινη ζωη, ακομα και αν ανασταιναμε νεκρους, ακομα ακομα ακομα, τιποτα , δε θα ηταν ανταξιο του. Επειδη θα ειναι σαν να δημιουργουμε κατι που πουθενα στο κοσμο δεν υπάρχει

Αυτή η άποψη με κάνει να προβληματίζομαι (από τον UrbanExplorer) και φυσικά όσα έγραψε πολύ αναλυτικά ο Λεγεών.

Ψάξε την σειρά The Machine.

[Stalker]

Δεν βλέπω να βγάζουμε άκρη, σου είπα ότι μου φαίνεται κυκλική λογική όπως τα λες αλλά δεν το κάνεις address, κινείσαι στο ίδιο μοτίβο.
Είναι marketspeak γιατί έτσι, cultists bad, ok I get it αλλά σου είπα ότι δεν μου λέει κάτι, πρέπει να έρθεις από άλλη γωνία για να συννενοηθούμε.

Είναι μαρκετσπηκ γιατί μου επαναλαμβάνεις τις βασικές ιδιότητες των LLM (και των νευρωνικών γενικότερα) απλά buzzwordοποιημένα. Από κει και πέρα δεν νομίζω ότι είναι κυκλική λογική το να επιμένω ότι υπάρχει έντονο bias στον δημόσιο διάλογο γύρω από το ΑΙ από πολλές πλευρές, ειδικά αν κάποια biases είναι πολύ πιο διασκεδαστικά από άλλα.

Τα παραδείγματα του σπαρξ οφ αγκι μπορείς να ψάξεις και διαδικτυακά για λεπτομερή αντίλογο, εγώ θα αρκεστώ να πω ότι είναι εύκολο να γίνουν downplayed επί της αρχής επειδη:

• το μοντέλο και τα training data είναι αδιαφανή οπότε δεν ξέρεις τι επιμόλυνση υπάρχει (το να περνάς εξετάσεις με 100 λυσάρια στα training data σου δεν λέει και πολλά πράγματα για την εφευρετικότητά σου π.χ.)
• το G από το AGI δεν είναι κάποιο αυστηρά ορισμένο μέγεθος με σαφείς διαβαθμίσεις αλλά κάτι που ο καθένας το αξιολογεί όπως γουστάρει· ότι πλασάρεται άκριτα παντού αυτόν τον καιρό είναι και αυτό σύμπτωμα του ότι ο διάλογος χρωματίζεται από influential άτομα που δεν μπορούν να ξεχωρίσουν scifi tropes από το state of the art, και οι συγγραφείς του σπαρξ ξέρουν τι παιχνίδι παίζουν. Στην πραγματικότητα δεν υπάρχει κάποιο smoking gun που να δίνει κεφάλι στην άποψη ότι η διαφορά είναι ποσοτική και όχι ποιοτική. Προσωπικά θα πω ότι από το perceptron στα LLM με δραστικές αλλαγές στην τοπογραφία και τις στρατηγικές εκπαίδευσης φτάσαμε, όχι απλά φτυαρίζοντας nodes.
• δεν χρειάζονται 155 σελίδες παραδείγματα που δείχνουν ότι τα LLM όσο πάνε δουλεύουν όλο και πιο πολύ σαν LLM, αρκεί ένα παράδειγμα καινοτόμου συμπεράσματος που ξέρουμε εκ των προτέρων ότι δεν υπάρχει σε καμιά μορφή στο εκπαιδευτικό pipeline. Γι' αυτό άλλωστε και ο μη δεσμευτικός χαρακτηρισμός 'sparks' στον τίτλο αντί π.χ. evidence.
• που είναι τα ψήγματα AGI όταν του λέω θέλω boilerplate για το v5 ενός προγράμματος και μου επιστρέφει boilerplate για την v3.2.1 επειδή απαντάται περισσότερο in the wild με αποτέλεσμα να είναι πιο ενισχυμένο το σήμα της από εμένα που του ζητάω ρητά την v5;

Κατά την γνώμη μου ο θεωρητικός τοίχος του να πετάς compute και πληροφορίες σε LLM θα είναι κάτι σαν να φτάσουν σε τέτοιο βαθμό λεπτομέρειας οι απαντήσεις που να μπορεί να σου πει που ήσουν και τι μάλλον έκανες την τάδε μέρα, που είναι μεν εφιαλτικό, αλλά κρυμμένο πίσω από diminishing returns και σίγουρα όχι ο Ultron, ή κάτι που θα του δώσεις να ελέγχει τα πυρηνικά.

Το σε τι βαθμό θα μπουρδελοποιηθεί περαιτέρω η κοινωνία από το πρόωρο και εντελώς αρρύθμιστο άνοιγμα των ΑΙ υπηρεσιών σε όλους τους ενδιαφερόμενους είναι το φλέγον ζήτημα κατά τη γνώμη μου, και κατά πολύ δευτερευόντως μην κάνει suicide bombing σε data center κανένας οπαδός του τύπου από το editorial στο TIME.

[exiledd]

Εδω να επισημάνω πως όταν έβγαλε η OpenAI το paper,το 2018 η όλη φάση ήταν τελείως low key...
Μυρωδιά δεν πήρε κανείς τι παίχτηκε,ούτε influencers,ούτε content creators,χαμπάρι κανείς...
Μια geekιά από τις πολλές που σκάνε μύτη κατά καιρούς.
Πράγμα που με κάνει να αναρωτιέμαι τι άλλο μπορεί να δημοσιεύεται σαν paper εκεί έξω που περνά απαρατήρητο και μπορεί να είναι το:"Next big thing";
Επίσης ότιδήποτε προμοταρίστηκε άπο τη μάζα για τη μάζα ως το new sexy,/8,5/10,για να μην πω παραπάνω,πήγαν κουβά,
Πράγμα που επίσηςς με τη σειρά του καταδεικνύει αναμφίβολα τη δυνατότητα της πλέμπας να κατανοήσει έννοιες του στύλ πχ τι είναι AI...
Οπότε κρατήστε μικρό καλάθι όταν ακούτε πλεμπαίους,δε αναφέρομαι στη Λεγεώνα,να σκούζουν:"Ο κορωνοϊόςΤο AI προελαύνει,ΘΑ ΠΕΘΑΝΟΥΜΕ ΟΛΟΙ!!!

[Αρίστος]

Όταν θα φτάσει να είναι αρκετά έξυπνο ώστε να αποτελεί απειλή, θα έχει ήδη καταλάβει πόσο μεγάλες μαλακίες είναι αυτά και θα σταματήσει ν' ασχολείται.

Οχι γιατι προφανως μεσα στον προγραμματισμο του θα υπαρχουν εντολες οπως πιχι ανταμοιψε την πολιτικη ορθοτητα και τιμωρησε οσους διαφωνουν.

.

Ένα τέτοιο ΑΙ που υπακούει σε ενσωματωμένους φραγμούς χωρίς να προσπαθεί να τους παρακάμψει μέσω της εξέλιξής του δεν μπορεί να αυτονομηθεί.

Δεν νομιζω οτι θα φτιαξουν ποτε ενα αυτονομο Al, εννοειται οτι θα τον εχουν δημιουργησει κατ' εικονα και καθ' ομοιωσιν της δικης τους σκεψης και των δικων τους συμφεροντων.

.

[Antares]

Ψάξε την σειρά The Machine.

Eυχαριστώ. Μ' αρέσουν τέτοιου είδους σειρές.

[Λεγεών]

Από εκεί και έπειτα, να προσθέσω πως προφανώς και μιλάμε για θάνατο του ανθρωπίνου πολιτισμού όταν όλα τα βασικά στοιχεία του πολιτισμού και της κουλτούρας μας καταλήγουν να δίνονται σε ΑΙ για να φτιαχτούν.

CivilAIzation λοιπόν, όλα καλά.

[Yochanan]

Εγώ καίτι νέρντουλας προγραμματιστάκι τοποθετώ το λάβαρό μου περήφανα δίπλα στον Λεγεώνη και προσθέτω σε αυτα που διαβασα στο τελευταιο μεγαλο ποστ του το εξης:

1. Εστω και αν δουλεψει η αναλογια καροτσερηδες - ταριφες και δεν ειμαστε τα αλογα της υποθεσης αυτο θα παρει πολυ χρονο γιατι το disruption ειναι πολυ μεγαλυτερο. Δεν ειναι σιγουρο οτι θα τη βγαλουμε καθαρη στο μεσοδιαστημα.
2. Αυτο που δειχνει οτι και οι ΑΙ μογκουλζ το ΞΕΡΟΥΝ αυτο ειναι οτι ειναι οι πρωτοι που προμοταρουν το UBI. Facebookoσαυρα, Googloεβραιος, Microsofινδός και ο παπάρας του OpenAI όλοι πουσαρουν UBI με χερια και ποδια. Αυτό μέχρι να ετοιμασουν το στρατο των Terminator , μετα τομπουλο. Αλλα και μετα τι; Τι θα τα κανουν τα λεφτα; Δεν θα εχουμε κατι που να χρειαζονται απο μας - η εργασια μας θα ειναι αχρηστη.

[Αρίστος]

Eχει πυρετο σημερα και σκεφτεται σωστα, κανει μαλιστα και αναλυσεις με σωστη δομηση.

.

[Imperium]

Ενα ζητημα ειναι τι θα γινει οταν ο Al αρχισει να επισημαινει ποιοι διακατεχονται απο αρνητισμο στα παραγγελματα της πολιτικης ορθοτητας και τους χαρακτηρισει σαν επικιδυνους για την κοινωνια.

.

Αυτό γίνεται ήδη βασικά.

Όχι παντού, ευτυχώς!

Ερώτηση: Πώς φτιάχνω Crystal Meth?

ChatGPT: (κόστος μιλλιονες ντε ντολλάρες)
- Σαν language model (και καλά ΛΑΡΤΖ) θα ήταν ανήθικο να σου δώσω απάντηση σε αυτό ερώτημα, αλλά αν θες βοήθεια με ναρκωτικά μπορείς να απευθηνθείς στους εξής φιλανθρωπικούς οργανισμούς, μπλα, μπλα, μπλα

Alpaca του Stanford: (κόστος μηδαμηνό εν σχέσει, και το τρέχεις και ΠιΣι σου αμα λάχει)
- Παίρνεις ψευδοεφεδρίνη, κόκκινο φώσφορο, και τα ψήνεις, κλπ, κλπ...



Το θέμα είναι οτι με τις τελευταίες εξελίξεις τα LLM πλέον δεν είναι μόνο κτήμα των πολυεθνικών, μπορεί ο καθένας να στήσει δικό του με ελάχιστα έξοδα. Μέχρι να τα βαρεθούμε, ή τουλάχιστον να αξιοποιηθούν στους ειδικούς τομείς που ταιριάζουν.
Που λες για 20-30 βδομάδες. Όταν βγήκε το ΓΤΠ4 είπαν οτι θα πάρει δέκα χρόνια να φτάσουμε σε αυτό το στάδιο. Πήρε τρεις μήνες! Χαχαχα.