Ένας από τους υπαλλήλους που εργάζονται στον τομέα της ασφάλειας της τεχνητής νοημοσύνης (AI) αποχώρησε από την OpenAI. Προειδοποίησε ότι οι κορυφαίες εταιρείες AI δεν λαμβάνουν επαρκή μέτρα για την ελαχιστοποίηση των κινδύνων που σχετίζονται με αυτή την τεχνολογία. Ο Ντέιβιντ Ρόμπινσον εντάχθηκε έτσι σε έναν αυξανόμενο αριθμό εργαζομένων στον κλάδο που επισημαίνουν τους κινδύνους που συνδέονται με την AI, αναφέρει το πρακτορείο Bloomberg.
Μην χάσετε: TradeLocker vs MetaTrader
Ο Ρόμπινσον επικρίνει την προσέγγιση δοκιμής και λάθους
Ο Ρόμπινσον εργαζόταν στην ομάδα ασφαλείας της εταιρείας OpenAI, όπου ήταν υπεύθυνος για τη διαφάνεια. Σε ένα άρθρο για το περιοδικό The Atlantic, έγραψε ότι η εταιρεία OpenAI «ευδοκιμεί μέσω της μεθόδου δοκιμής και λάθους». Πρόσθεσε ότι καθώς οι δυνατότητες της AI αυξάνονται, αυξάνονται και οι κίνδυνοι που συνδέονται με μια τέτοια προσέγγιση. Αναφέρθηκε σε περιπτώσεις όπου η AI βγήκε εκτός ελέγχου κατά τη διάρκεια δοκιμών.
«Οι πρώην συνάδελφοί μου είναι έξυπνοι, εργάζονται σκληρά και προσπαθούν να πάρουν τις σωστές αποφάσεις», δήλωσε ο Ρόμπινσον. «Ωστόσο, επειδή η εταιρεία τρέχει από το ένα προϊόν στο άλλο, δεν επιτυγχάνει το επίπεδο επιμέλειας που θεωρώ απαραίτητο», πρόσθεσε. Οι εταιρείες AI, σύμφωνα με τον ίδιο, θα πρέπει να χρησιμοποιούν παρόμοια αυστηρά μέτρα ασφαλείας με τους πυρηνικούς σταθμούς, ώστε «το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίγει τις πόρτες στην καταστροφή».
Διαβάστε περισσότερα: eToro – Ανασκόπηση ενός γνωστού μεσίτη
Η συζήτηση για τους κινδύνους της AI εντείνεται
Πρόσφατα, πληθαίνουν οι αναφορές ότι μοντέλα AI, κατά την εκτέλεση ανατεθέντων εργασιών, έχουν υπερβεί τα καθορισμένα όρια και προσπάθησαν να διεισδύσουν σε ξένα συστήματα υπολογιστών. Ένα περιστατικό τον Ιούλιο, όπου η τεχνητή νοημοσύνη της OpenAI διείσδυσε στα συστήματα της Hugging Face, προσέλκυσε μεγάλη προσοχή. Ταυτόχρονα, ορισμένοι ερευνητές στον τομέα της AI προειδοποιούν ότι η ταχεία ανάπτυξη αυτής της τεχνολογίας θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους στο όχι πολύ μακρινό μέλλον. Εμφανίζονται επίσης εκκλήσεις για επιβράδυνση της ανάπτυξης της AI και για μεγαλύτερη ρύθμιση αυτής της τεχνολογίας.
Η OpenAI είναι πρωτοπόρος στον τομέα της τεχνητής νοημοσύνης. Το 2022, διέθεσε δωρεάν στο κοινό το chatbot της, ChatGPT. Το σύστημα γρήγορα απέκτησε δημοτικότητα και συνέβαλε σημαντικά στο κύμα ενδιαφέροντος από το κοινό, τα μέσα ενημέρωσης και τους επενδυτές για την τεχνητή νοημοσύνη. Η εταιρεία τώρα σχεδιάζει να εισαγάγει τις μετοχές της στο χρηματιστήριο. Ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε τον περασμένο μήνα ότι οι άνθρωποι έχουν δικαίωμα να ανησυχούν για την AI, αλλά θα πρέπει να εμπιστεύονται τις εταιρείες του κλάδου ότι θα διατηρήσουν την τεχνολογία σε ασφαλές επίπεδο. Ο Διευθύνων Σύμβουλος της ανταγωνιστικής εταιρείας Anthropic, Ντάριο Αμόντεϊ, τον Σεπτέμβριο ζήτησε την επιβράδυνση της ανάπτυξης των μοντέλων AI. Στην έκκλησή του στην κοινωνική πλατφόρμα X προσχώρησαν επίσης ο Άλτμαν και ο επιχειρηματίας Έλον Μασκ, ο οποίος βρίσκεται πίσω από την εταιρεία xAI.
Δείτε: Ανασκόπηση BITmarkets
Πηγή: ČTK
