Yoshua Bengio është njëri nga tre "kumbarët" e inteligjencës artificiale. Por nuk ka entuziazmin e fillimit.

Në një intervistë me BBC, Bengio shprehet se po ta dinte se sa shpejt do të zhvillohej AI, do të kishte bërë prioritet të punës së vet sigurinë mbi dobinë e saj.

"Mund të thuhet se ndihem i humbur," tha Bengio. "Por duhet të vazhdoj përpara, të angazhohem, të diskutoj dhe të inkuraj të tjerët të mendojnë me mua."

Komentet e shkencëtarit kanadez të kompjuterave vijnë pasi ai nënshkroi një letër të hapur bashkë me një grup drejtuesish të kësaj industrie, që paralajmëron "rrezikun e zhdukjes" që paraqet AI, së bashku me bashkëkumbarin e AI, Geoffrey Hinton, i cili kohët e fundit la punën e tij në Google pasi erdhi në një konkluzion të ngjashëm.

Një nga shqetësimet e Bengio-s për momentin është mundësia që “aktorë të këqinj” mund të abuzojnë me AI.

“Mund të jetë një ushtarak, mund të jetë një terrorist, mund të jetë një individ shumë i zemëruar, psikotik”, tha Bengio për BBC. "Pra, nëse është e lehtë t’i programosh këto sisteme të AI për t'u kërkuar atyre të bëjnë diçka shumë të keqe, kjo mund të jetë shumë e rrezikshme."

Bengio thekson se qeveritë duhet t’i monitorojnë kompanitë që zhvillojnë AI në të njëjtën mënyrë që monitorojnë çdo sektor tjetër si ndërtimi i aeroplanëve, makinave ose farmaceutikëve.

Për ta bërë këtë në mënyrë efektive, ai propozon që njerëzit tëcilët punojnë në këto sisteme të AI t’i nënshtrohen njëfarë certifikimi në formën e "trajnimit etik".

Zakonisht nuk është kurrë mirë kur shpikësit pionierë e krahasojnë punën e tyre me bombën atomike. Megjithatë, Bengio dhe Hinton e kanë bërë në intervistat e tyre përkatëse.

Por “kumbari” i tretë i mbetur, Yann LeCun, me sa duket nuk është i bindur se AI përbën një kërcënim ekzistencial për njerëzimin, pasi ai është i vetmi nga treshja që nuk ka nënshkruar deklaratën, madje është një kundërshtar i zëshëm i një moratoriumi të propozuar për zhvillimin e AI.

Megjithatë, Bengio mendon se sfida është e kapërcyeshme.

“Asnjëherë nuk është vonë për t’u përmirësuar”, thotë ai në intervistë. "Është saktësisht si ndryshimi i klimës. Ne kemi hedhur shumë karbon në atmosferë. Dhe do të ishte më mirë nëse nuk do ta kishim bërë, por le të shohim se çfarë mund të bëjmë tani."