Η τεχνολογική εταιρεία OpenAI εξετάζει το ενδεχόμενο επιβράδυνσης της ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης (AI). Σύμφωνα με ανώνυμες πηγές του πρακτορείου Bloomberg, αυτό ανακοίνωσε αυτή την εβδομάδα στους υπαλλήλους σε συνάντηση ολόκληρης της εταιρείας ο διευθύνων σύμβουλος Sam Altman, εκφράζοντας την ελπίδα ότι και άλλες εταιρείες που ασχολούνται με την AI θα πράξουν το ίδιο.
Μπορεί να σας ενδιαφέρει: Σας δελέασαν με γρήγορα κέρδη; Η πυραμιδική απάτη γνωστή ως αεροπλάνο στέρησε από χιλιάδες ανθρώπους τις οικονομίες τους
Οι ανησυχίες για τους αυτόνομους πράκτορες ενισχύονται. Η OpenAI παρά την επικείμενη IPO επιβραδύνει την ανάπτυξη
Τις τελευταίες εβδομάδες εμφανίστηκαν περιστατικά που συνέβαλαν στις αυξανόμενες ανησυχίες για τους κινδύνους των αυτόνομων πρακτόρων AI, οι οποίοι μπορούν να παρακάμπτουν τους κανόνες και να χρησιμοποιούν απροσδόκητους τρόπους αλληλεπίδρασης με εξωτερικά συστήματα. Ο Altman δήλωσε στους υπαλλήλους ότι η OpenAI επιδιώκει συντονισμό με άλλες εταιρείες του κλάδου, αλλά ορισμένες από αυτές ενδέχεται να μην συμφωνήσουν με την πρόταση.
Τις τελευταίες εβδομάδες ορισμένοι υπάλληλοι κορυφαίων εταιρειών που ασχολούνται με την AI εξέφρασαν δημόσια ανησυχίες σχετικά με τους αυξημένους κινδύνους των προηγμένων συστημάτων AI. Αυτό προκάλεσε ανησυχία εντός των εταιρειών αυτών, σύμφωνα με το Bloomberg. Τόσο η OpenAI όσο και η ανταγωνιστική Anthropic κατέθεσαν στις αρχές του έτους εμπιστευτικά έγγραφα που απαιτούνται για την είσοδο στο χρηματιστήριο.
Η OpenAI ανέφερε προηγουμένως ότι επιβράδυνε πρόσφατα ορισμένα τμήματα της ανάπτυξης μοντέλων και ανέστειλε μέρος της εσωτερικής εκπαίδευσης τεχνητής νοημοσύνης λόγω ανησυχιών για την ασφάλεια. Τον Ιούλιο, ο Altman δήλωσε ότι συνομίλησε με εκπροσώπους του Λευκού Οίκου σχετικά με την ανάγκη επιβράδυνσης του ρυθμού ανάπτυξης της AI.
Τους τελευταίους μήνες αρκετοί υπάλληλοι κορυφαίων ερευνητικών εργαστηρίων που ασχολούνται με την ασφάλεια της τεχνητής νοημοσύνης υπέβαλαν παραίτηση. Ο ερευνητής της Anthropic, Jacob Coxon, ανακοίνωσε αυτή την εβδομάδα ότι αποχωρεί από την εταιρεία και τον κλάδο λόγω ανησυχιών ότι η Anthropic και οι ανταγωνιστές της αναπτύσσουν πολύ γρήγορα συστήματα ικανά να αυτοβελτιώνονται, τα οποία κατά τη γνώμη του θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο.
Μην χάσετε: TradeLocker vs MetaTrader
«Πλησιάζει το endgame;» Οι ερευνητές φεύγουν από τα εργαστήρια AI και προειδοποιούν για απώλεια ελέγχου
Φοβάται ότι τέτοια συστήματα θα μπορούσαν να καταστρέψουν την ανθρωπότητα. Σύμφωνα με τον ίδιο, πολλοί συνάδελφοι στον κλάδο χρησιμοποιούν πλέον όρους όπως “crunchtime” (κρίσιμη στιγμή) και “endgame” (τελική φάση) όταν περιγράφουν την πορεία των μοντέλων που αυτοβελτιώνονται, δηλαδή εκφράσεις που υποδηλώνουν ότι η ανάπτυξη φτάνει στο τέλος της.
Ο Coxon αποχώρησε από την OpenAI στις αρχές του έτους και προσχώρησε στην Anthropic, επειδή κατά τη γνώμη του η εταιρεία αυτή είναι γνωστή για τις προσπάθειές της προς την ασφάλεια των μοντέλων. Αν και θεωρούσε τις προσπάθειες της Anthropic για την ασφάλεια ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα AI που θα ξεπερνά τους ανθρώπους σε μια σειρά εργασιών, εκτός εάν υπάρξει κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση της ανάπτυξης του κλάδου.
Στα τέλη Ιουλίου, περισσότεροι από 1.000 υπάλληλοι από όλες τις σημαντικές εταιρείες που ασχολούνται με την τεχνητή νοημοσύνη υπέγραψαν αίτημα στο οποίο ζητούν την εφαρμογή μηχανισμού επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Διαβάστε περισσότερα: FX Junction
Πηγή: ČTK
