To AI θα είναι ο θάνατος του ανθρώπινου πολιτισμού

[foscilis]

Προσωπικά με ανησυχεί αρκετά ότι θα αναβαθμιστεί δραματικά η ικανότητα κάθε τρελαμένου φανατικού να φτιάξει μια αυτοσχέδια βόμβα και να σκοτώσει μεγάλους αριθμούς.

και πριν μπορούσε να το κάνει, απλώς έπρεπε να διαβάσει δέκα πράγματα και να κάνει περίληψη. Σιγά την αναβάθμιση. Επίσης πρέπει να είναι τελείως ηλίθιος για να ρωτήσει μια διαδικτυακή υπηρεσία "πώς φτιάχνω βόμβα".

[EKPLIKTIKOS]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

Care to elaborate?

[vantono]

Μέλια μέλια είστε όλοι στη θεωρία, και με την τηγανίτα στην αιώνια προσμονή προβλέπω να μένουμε όλοι, στην πραξη.

Ρε πάτε καλά, εδώ δεν έχουμε αυτόνομα αυτοκίνητα ακόμα, με χιλια ζορια εχουμε αυτοματα, ηλεκτρικα και υβριδικά θα ελεγα, και εσεις το πήγατε σε μελλοντικη δυστοπία που μονομιάς θα εκμηδενίσει τις θέσεις εργασίας και ολοι θα πειναμε και θα σκοτωνόμαστε μεταξύ μας όσο μια ανώτερη ΑΙ δυναμη θα μας εχει εγκλωβισμένους σε σαδιστικές δοκιμασίες.
Μήπως θα περάσουμε και Αλις ιν μπορντερλαντ φάση σε ΑΙ βερσιον?

Αφού το 'χετε που το 'χετε με το σεναριο, δεν στέλνετε κανα' μέηλ στον Τσαρλι Μπρούκερ μπας και δώσετε ιδεα για κανενα γαματο επεισόδιο για τη σεζον 6 του μπλακ μιρρορ? Τουλαχιστον μην παει χαμενο το ταλέντο σας, να το βλέπουμε σε ταινιάρες εστω.

[klg]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

Care to elaborate?

Απλά περίμενε το ambulancechaserGPT bro.

[πατησιωτης]

https://www.wsj.com/articles/the-jobs-m ... OJJEfCXzX8

[Green Dragon]

Έχω σκεφτεί ότι και όλη αυτή η συζήτηση για το ελάχιστο εγγυημένο εισόδημα, που κάποιοι νομίζουν ότι γίνεται μόνο στην μνημονιακή Ελλάδα αλλά αυτό είναι λάθος, σχετίζεται κατά κάποιον τρόπο με αυτά τα πράγματα. Κάποιοι προβλέπουν ότι θα χαθούν θέσεις εργασίας που δεν θα μπορούν ν' αντικατασταθούν και ψάχνουν λύση, έστω και προσωρινή, έστω και μπάλωμα, μέχρι να δουν τι θα κάνουν.

[Stalker]

Επειδή παρακολουθώ στενά, επαναλαμβάνονται όλα και κάθε φορά παίρνω ελάχιστη πληροφορία έξτρα.

Θεωρώ ότι πλέον της επιστολής προσφέρει κοντεξτ για το ποιοί είναι αυτοί, έχει αποσπάσματα από συνεντεύξεις και πρόσφατα papers, και γενικά μπαζει πολύ ωραία έναν πιο αρχάριο στη συζήτηση.

Το δικό σου αφήγημα η αλήθεια είναι δεν με πείθει. Δηλαδή οκ να τα ποντάρουμε όλα στο "SBF bad, so AI safe". Από εμένα είναι όχι. Υπάρχουν emergents capabilities και πρέπει να πάμε αργά και να τα κατανοήσουμε. Σε έναν ιδανικό κόσμο θα υπήρχε παγκόσμιο regulation για αυτό.

Όσον αφορά την επίπτωση στην αγορά εργασίας, νομίζω το τελευταίο μας παράπονο θα είναι το "λείπει από το δημόσιο διάλογο". Θα βαρεθούμε να τα λέμε.

Δεν θέλω να εφησυχάσω (εκτός από το κομμάτι που τα LLM ξαφνικά θα γίνουν Ultron/Skynet, αυτό δεν παίζει χωρίς συνειδητή προσπάθεια προς τέτοια κατεύθυνση και τεχνολογικές καινοτομίες που παραμένουν υποθετικές προς το παρόν, δεν είναι κάτι που μαγικά θα γίνει απλά αν ρίξουμε κι άλλους κόμβους στο νευρωνικό μείγμα) αλλά να τονίσω ότι εκτός από τους γνωστούς κερδοσκόπους ο διάλογος επίσης άγεται και φέρεται και από παραθρησκετικούς περίεργους σε σημείο που υπαγορεύουν το λεξιλόγιο που χρησιμοποιείται.

Εννοώ, ξαφνικά μιλάνε όλοι για AI alignment λες και είναι κάποιο legit concept από την βιβλιογραφία, και όχι ένας ψωνισμένος αυτοδίδακτος blogger με cult προσωπικότητας γύρω του να νομίζει ότι η λύση στην επικείμενη ρομποαποκάλυψη είναι να λύσουμε την ηθική σαν να ήταν σταυρόλεξο και να κάνουμε embed το αποτέλεσμα σε όλα τα μελλοντικά ΑΙ μοντέλα μήπως και γλιτώσουμε από τους τερμινέιτορς.

[Dwarven Blacksmith]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

Care to elaborate?

Υπάρχουν papers που θα το κάνουν καλύτερα από μένα, αλλά...
Πρόκειται για μια δουλειά που βασίζεται 100% στο ξεσκόνισμα νόμων και παλιών υποθέσεων, στο γραπτό λόγο. Μια δουλειά που υπάρχει ως τμήμα σε κάθε εταιρεία. Επομένως η κούρσα για τη μείωση του legal cost μέσω LLMs είναι εφικτή και αναπόφευκτη.

[sharp]

Κάπου είχα δει λίστα με επαγγέλματα κατά προτεραιότητα εξαφάνισης. Πάνω πάνω ήσαν οι ασφαλιστικοί πράκτορες. Και οι προγραμματιστές ήσαν ψηλά στη λίστα.

[Green Dragon]

Πάντως η ανατροπή είναι ότι δεν είναι οι θέσεις χειρωνακτικής εργασίας που θα χαθούν μαζικά πρώτες σε αντίθεση με ότι νομίζαμε όλοι μας μέχρι σήμερα αλλά οι θέσεις γραφείου

[Γαληνός]

Δεν έχω ασχοληθεί με machine learning και AI,.
Αλλά αυτό που ξέρω, ένα καλό παραδεγμα (στο μυαλό μου)

Υπάρχει ένα πολυ καλο εργαλείο εκτίμησης ψυψοκοινωνικων κινδύνων.
Κάποιοι εργοδότες και πολυεθνικες πληρωνουν χοντρά να το τρέξουν, να το αναλυσουν και να παρουν μέτρα και να το ξανά τρέξουν μετά.

Ένας, πληρωσε Αγγλίδα που παιρνει 5000 λίρες την ημέρα για την συγκεκριμένη στατιστική ανάλυση.

Απλή και ανέξοδη σχετικά λυση:

Φτιάχνεις στην R script με τα δεδομένα τους πινακες, τα γραφικά και την ανάλογη στατιστική ανάλυση, δωρεάν.

Οι εταιρείες μετά απλά ταΐζουν με δεδομένα το script στο δωρεάν R studio και λαμβάνουν τα στατιστικά, τα γραφήματα, τους πινακεςκλπ.

Κάποιος πρέπει να τους τα αναλυσει και να προτεινει μέτρα.
Στο μέλλον, και αυτό, θα το κάνει ένας υπερυπολογιστής.

[Dwarven Blacksmith]

Επειδή παρακολουθώ στενά, επαναλαμβάνονται όλα και κάθε φορά παίρνω ελάχιστη πληροφορία έξτρα.

Θεωρώ ότι πλέον της επιστολής προσφέρει κοντεξτ για το ποιοί είναι αυτοί, έχει αποσπάσματα από συνεντεύξεις και πρόσφατα papers, και γενικά μπαζει πολύ ωραία έναν πιο αρχάριο στη συζήτηση.

Το δικό σου αφήγημα η αλήθεια είναι δεν με πείθει. Δηλαδή οκ να τα ποντάρουμε όλα στο "SBF bad, so AI safe". Από εμένα είναι όχι. Υπάρχουν emergents capabilities και πρέπει να πάμε αργά και να τα κατανοήσουμε. Σε έναν ιδανικό κόσμο θα υπήρχε παγκόσμιο regulation για αυτό.

Όσον αφορά την επίπτωση στην αγορά εργασίας, νομίζω το τελευταίο μας παράπονο θα είναι το "λείπει από το δημόσιο διάλογο". Θα βαρεθούμε να τα λέμε.

Δεν θέλω να εφησυχάσω (εκτός από το κομμάτι που τα LLM ξαφνικά θα γίνουν Ultron/Skynet, αυτό δεν παίζει χωρίς συνειδητή προσπάθεια προς τέτοια κατεύθυνση και τεχνολογικές καινοτομίες που παραμένουν υποθετικές προς το παρόν, δεν είναι κάτι που μαγικά θα γίνει απλά αν ρίξουμε κι άλλους κόμβους στο νευρωνικό μείγμα) αλλά να τονίσω ότι εκτός από τους γνωστούς κερδοσκόπους ο διάλογος επίσης άγεται και φέρεται και από παραθρησκετικούς περίεργους σε σημείο που υπαγορεύουν το λεξιλόγιο που χρησιμοποιείται.

Εννοώ, ξαφνικά μιλάνε όλοι για AI alignment λες και είναι κάποιο legit concept από την βιβλιογραφία, και όχι ένας ψωνισμένος αυτοδίδακτος blogger με cult προσωπικότητας γύρω του να νομίζει ότι η λύση στην επικείμενη ρομποαποκάλυψη είναι να λύσουμε την ηθική σαν να ήταν σταυρόλεξο και να κάνουμε embed το αποτέλεσμα σε όλα τα μελλοντικά ΑΙ μοντέλα μήπως και γλιτώσουμε από τους τερμινέιτορς.

Δεν είναι καν θέμα κόμβων ή αριθμού παραμέτρων. Με τα ίδια "specs" μπορεί όχι απλά να βελτιώνεται αλλά να εμφανίζει emergent capabilities κάνοντας scaling με τον αριθμό των δεδομένων. Οπότε ναι η δική μου εντύπωση είναι ότι υπάρχει αρκετή περίπτωση μαγικά να γίνει κάτι.

Τα υπόλοιπα που λες μου φαίνονται κυκλική λογική, δεν είναι legit η βιβλιογραφία επειδή γράφουν οι cultists οι οποίοι είναι cultists επειδή δεν χρησιμοποιούν legit βιβλιογραφία. Δεν ξέρω πως θα βγει συμπέρασμα έτσι. Ξέρω ότι οι cultists έχουν ασχοληθεί με τον τομέα περισσότερο από αυτούς που τους κατακρίνουν.

[GoBzi]

Οχι οτι ο τσαγκαρης, οι περισσοτεροι οτι ο τυπος που περναγε και πουλαγε παγο και τον αντικατεστησε το ψυγειο.

Κατά την γνώμη μου πάλι θα υπάρχουν αλλά σε πολύ μικρότερο αριθμό. Αντί να έχεις 100 άτομα που γράφουν κώδικα θα έχεις 2-3 senior να επιβλέπουν.

Θα επαναλάβω ότι και τώρα μπορείς να ξεκινήσεις να εισάγεις αριθμούς σε ένα αρχείο με έναν binary editor:

127 69 76 70 2 1 1 0 0 0 0 0 0 0 0 0
3 0 62 0 1 0 0 0 48 65 162 5 0 0 0 0
64 0 0 0 0 0 0 0 72 50 227 12 0 0 0 0
0 0 0 0 64 0 56 0 12 0 64 0 35 0 34 0
6 0 0 0 4 0 0 0 64 0 0 0 0 0 0 0
64 0 0 0 0 0 0 0 64 0 0 0 0 0 0 0
160 2 0 0 0 0 0 0 160 2 0 0 0 0 0 0
8 0 0 0 0 0 0 0 3 0 0 0 4 0 0 0
224 2 0 0 0 0 0 0 224 2 0 0 0 0 0 0
224 2 0 0 0 0 0 0 28 0 0 0 0 0 0 0
...αλλα 226 εκατομμύρια αριθμοί...

και το αποτέλεσμα να είναι το εκτελέσιμο του Google Chrome. Αλήθεια μπορείς. Έτσι δουλεύει βασικά. Ήταν και ο μόνος τρόπος να γράψεις κώδικα μέχρι τη δεκαετία του 1950 που βγήκαν οι αυτόματοι assemblers (ως τότε οι assemblers ήταν άνθρωποι). Και μάλιστα δεν υπήρχε ούτε καν binary editor, έπρεπε να τρυπάς τους δυαδικούς αριθμούς σε χαρτονένιες κάρτες αλλά ας το αγνοήσουμε αυτό.

O assembler με τη σειρά του απλά σου επιτρέπει να χρησιμοποιείς σύμβολα αντί για αριθμούς, τόσο για τις οδηγίες όσο και για τα δεδομένα. Δε γράφεις:

77 137 102 232

αλλά

mov %r12,-0x18(%r14)

που είναι βελτίωση γιατί σκέφτεσαι με όρους όπως "μετακινώ" (mov), "καταχωρητής 12", "καταχωρητής 14".

Αλλά αληθινό βήμα μπροστά είναι ο compiler που σου επιτρέπει να γράφεις πράγματα όπως
a = b+2
και αυτά να γίνονται πρώτα συμβολική assembly και μετά γλώσσα μηχανής. Ή ο interpreter που παίρνει εντολές σαν κείμενο και τις εκτελεί εκείνη τη στιγμή. Μιλάμε για πράγματα που μείωναν 100 φορές την απαιτούμενη δουλειά για να γράψεις το ίδιο πρόγραμμα.

Το αποτέλεσμα όμως κάθε φορά δεν ήταν να ασχολούνται εκατό φορές λιγότεροι άνθρωποι με τον προγραμματισμό, ήταν να ασχολούνται εκατομμύρια φορές περισσότεροι σε εφαρμογές που πριν ήταν αδιανόητα πολύπλοκες και ξαφνικά έγιναν εφικτές. Αντί να ασχολούνται με μαλακίες όπως αν το mov είναι το νούμερο 77 ή το νούμερο 78.

Βασικά αυτά που γράφεις είναι η δουλειά μου. Τεσταρω από απλά web apps, μέχρι πολύπλοκες εφαρμογές για buffer overflow, οπότε πάμε παρακάτω.

Η διαφορά είναι ότι ακόμη και σήμερα χρειάζονται γνώσεις για να προγραμματίσεις κάτι, δεν μπορεί να το κάνει ο καθένας. Χθες μιλούσα με παλιά συνάδελφο που έβγαζε το εβδομαδιαίο πρόγραμμα σε Excel και μου λέει ότι πλέον προγραμματίζει FPGA με την βοήθεια του GPT.

Από την στιγμή που οι γνώσεις και η εμπειρία σου στο οτιδήποτε αντικατασταθούν από κάτι που αυτοματοποιεί την όλη διαδικασία, τότε γίνεσαι ο παγοπώλης της εποχής σου και πρέπει να βρεις νέα ασχολία.

[Stalker]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

Care to elaborate?

Το 99% του καιρού που δεν τρέχουν στα δικαστήρια είναι ουσιαστικά copy editing ογκώδους boilerplate κειμένου, ενώ το η πραγματική χρησιμότητα των LLM που είναι η πλοήγηση τεράστιων corpus πληροφορίας με φυσική γλώσσα είναι πολύ κοντά στο επάγγελμα του ερμηνευτή του νομικού κώδικα.

Δεν λέω ότι τO cHAtPgT Θα αΝΤιΚατΑστΗσει τους δικηγόρους, αλλά είναι μεγάλη η πιθανότατα να είναι από τους πρώτους που θα νοιώσουν την διαφορά μόλις μπει σε ένα ρυθμό αυτή η ιστορία. Διάβασα και έναν τίτλο πριν ένα μήνα ότι μια από τις μεγαλύτερες δικηγορικές εταιρίες των ΗΠΑ ήταν από τις πρώτες που έκαναν συμφωνία με την MS για υπηρεσίες cgtp.

[EKPLIKTIKOS]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

Care to elaborate?

Υπάρχουν papers που θα το κάνουν καλύτερα από μένα, αλλά...
Πρόκειται για μια δουλειά που βασίζεται 100% στο ξεσκόνισμα νόμων και παλιών υποθέσεων, στο γραπτό λόγο. Μια δουλειά που υπάρχει ως τμήμα σε κάθε εταιρεία. Επομένως η κούρσα για τη μείωση του legal cost μέσω LLMs είναι εφικτή και αναπόφευκτη.

Ok, σε διάβασα λάθος. Προφανώς θα είναι ένα εξαιρετικά χρήσιμο εργαλείο για τους δικηγόρους. Υπάρχουν ήδη pretrained language models αποκλειστικά σε νομικά κείμενα. Ήταν από τα πρώτα που εμφανίστηκαν μετά το Bert, το οποίο μετράει ήδη 5ετια σχεδόν, λόγω της μεγάλης διαθεσιμότητας τέτοιων γραπτών κειμένων κ της χρήσης τυποποιημενης γλώσσας, που κάνει το τασκ ευκολότερο.

Παρόλα αυτά μιλάμε για ένα εργαλείο που ναι, θα βελτιώσει ή θα βοηθήσει το έργο ενός δικηγορικού γραφείου. Τα LLMs από μόνα τους δεν έχουν νομική ευθύνη, και έχουν και το μειονέκτημα των περιστασιακων hallucinations, που είναι εγγενες πρόβλημα, κατασκευαστικο, εξαιτίας του τρόπου που λειτουργούν.

Μιλάμε για έναν κλάδο με μεγάλο κόστος (συχνα) σε τυχόν λάθη. Αθώοι φυλακιζονται ή τους επιβάλλονται μεγάλα πρόστιμα, ένοχοι τη σκαπουλαρουν κτλ. Εκεί δε φτάνει το υψηλό accuracy (σχεδόν παντα θα κάνει καλύτερη δουλειά από μια ομάδα χαρτογιακαδων). Όταν εσύ φτιάχνεις ένα πρόγραμμα για φορουμ αναλυτικς δεν πειράζει κ τόσο να γίνει καμια μαλακιουλα. Σκέψου όμως να έφτιαχνες ένα πρόγραμμα που θα αποφάσιζε για life or death situations, πχ να προβλέψει ποιος σε μια πτήση είναι δυνάμει αεροπειρατης. Τότε ακόμη κ με ένα μοντέλο με 99% accuracy από τη μια κινδυνεύεις να περάσει μέσα ένας αεροπειρατης (έτσι κ αλλιώς τα δεδομένα σου είναι unbalanced: οι περισσότεροι άνθρωποι δεν είναι αεροπειρατες). Από την άλλη αν το τραβήξεις από την άλλη θα ταλαιπωρεις καθημερινά χιλιάδες άτομα με σοβαρές συνέπειες (χαμένες πτήσεις, καθυστερήσεις, whatnot). Εκεί απαιτείται ευθύνη.