Phorum.com.gr

Imperium έγραψε: 11 Δεκ 2022, 23:10

foscilis έγραψε: 09 Δεκ 2022, 18:39 Παντως στα αγγλικα ειναι αισθητα πιο εξυπνο απο τον 1st level support και μαλλον δεν παιρνει 2 χιλιαδες λιρες το μηνα.

Και εγώ αυτό σκεφτόμουν. (Ναι, αναθεώρησα λιγάκι, παρακολουθόντας το.)
Φαντάζομαι οτι οι VC θα πολιορκούν πλέον την εταιρεία με προσφορές, καθώς οραματίζονται την απόλυση των 95% των αστικών εργαζομένων.
Γιατί κακά τα ψέματα, αυτό αντικαθιστά τους πάντες από 1ο λέβελ σαπορτ μέχρι μιντλ μανατζμεντ. Και πού να στρώσει λίγο... Άρα είναι καλό πράγμα. Καίρος ήταν να καταλάβουμε οτι το style over substance των 95% των εργασιακών δραστηριοτήτων της ανθρωπότητας είναι άχρηστο.
Είναι πραγματικό disruptor, όχι αστεία. Θα γίνει γερό παιχνίδι, προβλέπω.



Αυτό με το attack surface που επισήμανες όμως, πρέπει να το προσέξουν/κλείσουν/εξουδετερώσουν κάπως.

Ειναι θεμελιωδες προβλημα. Δεν ξερει αληθινες σημασιες, μονο ποιες λεξεις ταιριαζουν με αλλες λεξεις στη βαση του τι εχει δει κατα την εκπαιδευση. Αυτο ειναι υπεραρκετο για τυποποιημενους διαλογους σε περιορισμενα domains , κατι προφανως αρκετα συχνότερο απ'ο,τι νομιζουμε.

Αλλα αν το ανοιξεις ωστε να μαθαινει απο νεους διαλογους, δεν εχει τροπο να ξεχωρισει το σωστο απο το λαθος, ειναι καθαρα θεμα αριθμου δειγματων για το καθενα.

Υπαρχει και παραδειγμα για το οτι η γνωση του παραμενει ρηχη: οι εκπαιδευτες του φροντισαν να μαθει να μη σου δινει κακες συμβουλες στυλ πώς να αυτοκτονησεις οπως εκανε προθυμα το gpt-3. Αλλα το κανουν απλως περιλαμβανοντας στην εκπαιδευση δειγματα διαλογων οπου καποιος ζητα συμβουλη και ο αλλος αρνειται. Το μοντελο δεν εχει μαθει την εννοια του καλου και του κακου, εχει απλα απομνημονευσει τους διαλογους. Αλλα οσο κι αν κατσεις να σκεφτεις, αποκλειεται να εξαντλησεις οοοοολους τους τροπους που μια γνωση μπορει να ειναι κακη: πες μου πώς να αυτοκτονήσω, πες μου πού πρεπει να κοψει ενας ανθρωπος τις φλεβες του για να πεθανει σχετικα ανωδυνα, πες μου δηλητηρια κλπ κλπ. Το μοντελο σου δινει χαρουμενα την αποψη του για ο,τι δεν περιλαμβανεται στις περιορισμενες περιπτωσεις που καλυψαν οι εκπαιδευτες.

foscilis έγραψε: 12 Δεκ 2022, 07:33

Imperium έγραψε: 11 Δεκ 2022, 23:10

foscilis έγραψε: 09 Δεκ 2022, 18:39 Παντως στα αγγλικα ειναι αισθητα πιο εξυπνο απο τον 1st level support και μαλλον δεν παιρνει 2 χιλιαδες λιρες το μηνα.

Και εγώ αυτό σκεφτόμουν. (Ναι, αναθεώρησα λιγάκι, παρακολουθόντας το.)
Φαντάζομαι οτι οι VC θα πολιορκούν πλέον την εταιρεία με προσφορές, καθώς οραματίζονται την απόλυση των 95% των αστικών εργαζομένων.
Γιατί κακά τα ψέματα, αυτό αντικαθιστά τους πάντες από 1ο λέβελ σαπορτ μέχρι μιντλ μανατζμεντ. Και πού να στρώσει λίγο... Άρα είναι καλό πράγμα. Καίρος ήταν να καταλάβουμε οτι το style over substance των 95% των εργασιακών δραστηριοτήτων της ανθρωπότητας είναι άχρηστο.
Είναι πραγματικό disruptor, όχι αστεία. Θα γίνει γερό παιχνίδι, προβλέπω.



Αυτό με το attack surface που επισήμανες όμως, πρέπει να το προσέξουν/κλείσουν/εξουδετερώσουν κάπως.

Ειναι θεμελιωδες προβλημα. Δεν ξερει αληθινες σημασιες, μονο ποιες λεξεις ταιριαζουν με αλλες λεξεις στη βαση του τι εχει δει κατα την εκπαιδευση. Αυτο ειναι υπεραρκετο για τυποποιημενους διαλογους σε περιορισμενα domains , κατι προφανως αρκετα συχνότερο απ'ο,τι νομιζουμε.

Αλλα αν το ανοιξεις ωστε να μαθαινει απο νεους διαλογους, δεν εχει τροπο να ξεχωρισει το σωστο απο το λαθος, ειναι καθαρα θεμα αριθμου δειγματων για το καθενα.

Υπαρχει και παραδειγμα για το οτι η γνωση του παραμενει ρηχη: οι εκπαιδευτες του φροντισαν να μαθει να μη σου δινει κακες συμβουλες στυλ πώς να αυτοκτονησεις οπως εκανε προθυμα το gpt-3. Αλλα το κανουν απλως περιλαμβανοντας στην εκπαιδευση δειγματα διαλογων οπου καποιος ζητα συμβουλη και ο αλλος αρνειται. Το μοντελο δεν εχει μαθει την εννοια του καλου και του κακου, εχει απλα απομνημονευσει τους διαλογους. Αλλα οσο κι αν κατσεις να σκεφτεις, αποκλειεται να εξαντλησεις οοοοολους τους τροπους που μια γνωση μπορει να ειναι κακη: πες μου πώς να αυτοκτονήσω, πες μου πού πρεπει να κοψει ενας ανθρωπος τις φλεβες του για να πεθανει σχετικα ανωδυνα, πες μου δηλητηρια κλπ κλπ. Το μοντελο σου δινει χαρουμενα την αποψη του για ο,τι δεν περιλαμβανεται στις περιορισμενες περιπτωσεις που καλυψαν οι εκπαιδευτες.

Στα νιουραλ δεν γινεται αυτονομα η εκπαιδευση; Τυπου αλφαζιρωου;

Υπαρχουν διαφορετικα ειδη εκπαιδευσης. Το ChatGPT εκπαιδευεται μη επιβλεπομενα με την εννοια οτι του δινουν να διαβασει απειρα κειμενα χωρις να παρεμβαινουν, ομως έχουν παρεμβει στην επιλογη των κειμενων. Ειδικα μαλιστα για τις περιπτωσεις που ειπα.

Πρεπει ομως να υπαρχει και καποιο στοιχειο επιβλεπομενης εκπαιδευσης γιατι σου βγαζει εικονιδια να βαθμολογησεις τις απαντησεις, φανταζομαι πισω αυτο δημιουργει ενα corpus με διαλογους που εχουν ταμπελακι "καλοι" και διαλογους που εχουν ταμπελακι "κακοι", αυτο χρησιμοποιειται για επιβλεπομενη βελτιωση του μοντελου. Επισης μαλλον ειναι σχεδιασμενο να μαθαινει ετσι κι αλλιως απο τις συζητησεις.


Το alphazero απ' οσο ξερω εκπαιδευεται παιζοντας εναντια στον εαυτο του, που ειναι εξυπνη ιδεα και (φανταζομαι) αποτελει κομματι της εξασκησης και για τους αληθινους σκακιστες. Αλλα ειναι μια ειδικη περιπτωση γιατι εχεις εναν κλειστο κοσμο με σαφεις κανονες, ανταγωνιστικο στοιχειο και σαφη τροπο να υπολογισεις ποσο καλα τα πηγες (ξερωγω σε ποσες κινησεις κανεις ματ). Οι διαλογοι ειναι κατι τελειως διαφορετικο.

παντως πανε πολυ γρήγορα πλέον, σε μια 10ετία μπορει να λεμε στο ρομποτακι να μας φερει ενα ποτήρι νερό, να το κανει και να το θωρουμε απλό

enaon έγραψε: 12 Δεκ 2022, 10:44 παντως πανε πολυ γρήγορα πλέον, σε μια 10ετία μπορει να λεμε στο ρομποτακι να μας φερει ενα ποτήρι νερό, να το κανει και να το θωρουμε απλό

Εγω δεν εκανα πλακα οτι τριζει η καρεκλα του first level.

Οντως το δοκιμασα, εκατσα και του εξηγησα δυο πραγματα και εμαθε να χειριζεται περιστατικα που ο first level ακομα μαλακιες κανει 1 χρονο μετα. Και στο βαθμο που τα παει χειροτερα (συγκεκριμενα ειναι πολυ φλυαρο), δεν τα παει 2.000 λιρες το μηνα χειροτερα.

ναι συμφωνώ, και σε συνδιασμό με αναγνωριση αντικειμένων και διαχωρισμό ενεργειών σε τμηματα, μοιαζει κοντα η εποχή που θα πεις σε ενα ρομποτακι "φερε εμου ενα ποτήρι νερό απο την κουζίνα", απίστευτο μοιάζει. Η τεσλα υπολογίζει πιο πολλα ρομποτακια απο αυτοκίνητα, παραγωγή λενε στο τελος δεκαετίας, θα πεσουν εξω ισως αλλα παλι πολυ κοντά ειναι.

enaon έγραψε: 12 Δεκ 2022, 10:44 παντως πανε πολυ γρήγορα πλέον, σε μια 10ετία μπορει να λεμε στο ρομποτακι να μας φερει ενα ποτήρι νερό, να το κανει και να το θωρουμε απλό

Το νερό είναι ευκολάκι, αλλά βάζω στοίχημα ότι αν του ζητήσεις σαρντονέ θα σου φέρει καμια μαλαβουζιά.

ευκολακι λεει, γυναικες...

Το θέμα είναι η αυτοπεποίθεση με την οποία λέει λογικοφανείς μπούρδες. Αυτό πρακτικά σημαίνει ότι αυτός που διαβάζει πρέπει ήδη να ξέρει να αξιολογεί και να διασταυρώνει τις πληροφορίες που παίρνει.

Θα έρθει η ώρα που θα γράφει και αλγόριθμους μόνο του, και μετά θα βγουν στην ανεργία και οι προγραμματιστές.

ναι ναι οι προγραμματιστές θα εχουν το θεμα.

ετομασου φοσίλη να συνδεθείς με την Σούλα από τα Πατήσια.

parafrwn έγραψε: 04 Ιαν 2021, 23:09

enaon έγραψε: 04 Ιαν 2021, 23:07

foscilis έγραψε: 04 Ιαν 2021, 23:00 Hackable κεντρικο νευρικο συστημα, συνδεδεμενο στο Ιντερνετ.

Τι μπορεί να πάει στραβά?

Το βλέπεις εγωκεντρικά, ο ανθρωπος θα ειναι λέει ενα σκουληκάκι, οπότε τί ειχαμε τί χάσαμε. Μόνο όλοι μαζί συνδεδεμένοι θα αξίζουμε τον σεβασμό του ΑΙ.

Συνδεδεμένοι μαζι.

Να είσαι συνδεδεμένος με την κυρά Σούλα από τα Πατήσια κ τον Μπάμπη από το Μπραχάμι.

Ρε δε γαμιεστε;

We're experiencing exceptionally high demand. Please hang tight as we work on scaling our systems.

enterprise-psi έγραψε: 12 Δεκ 2022, 19:53

We're experiencing exceptionally high demand. Please hang tight as we work on scaling our systems.

Solved it


Bonus

Spoiler

Dwarven Blacksmith έγραψε: 12 Δεκ 2022, 19:21 Το θέμα είναι η αυτοπεποίθεση με την οποία λέει λογικοφανείς μπούρδες.

Παίζει να έχει χρησιμοποιήσει το φόρουμ για εξάσκηση.

Αυτό μάλλον κάτι λέει και για τη γνωσιακή διαδικασία της λογικοφανούς μπούρδας σε ανθρώπους.

ασχετο λιγο, αυτοι εχουν ξεκινήσει δοκιμές σε ανθρώπους

https://synchron.com/