Kina ka propozuar rregulla të reja strikte për inteligjencën artificiale (AI) për të siguruar mbrojtje për fëmijët dhe për të parandaluar që chatbot-et të ofrojnë këshilla që mund të çojnë në vetëdëmtim ose dhunë, raporton BBC.
Sipas rregullave të planifikuara, zhvilluesit gjithashtu do të duhet të sigurojnë që modelet e tyre të AI të mos gjenerojnë përmbajtje që promovon bixhozin.
Ky njoftim vjen pas një rritjeje të madhe në numrin e chatbot-eve të lançuar në Kinë dhe në të gjithë botën.
Pasi të finalizohen, rregullat do të zbatohen për produktet dhe shërbimet e AI në Kinë, duke shënuar një hap të rëndësishëm për të rregulluar teknologjinë me rritje të shpejtë, e cila ka qenë nën vëzhgim të madh për shqetësimet mbi sigurinë këtë vit.
Draft-rregullat, të cilat u botuan gjatë fundjavës nga Administrata e Hapësirës Kibernetike e Kinës (CAC), përfshijnë masa për mbrojtjen e fëmijëve. Ato përfshijnë kërkesën që kompanitë e AI të ofrojnë cilësime të personalizuara, kufizime në kohën e përdorimit dhe të marrin pëlqimin e kujdestarëve përpara ofrimit të shërbimeve të shoqërimit emocional.
Operatorët e chatbot-eve duhet të sigurojnë që një njeri të marrë kontrollin e çdo bisede që lidhet me vetëvrasjen ose vetëdëmtimin dhe menjëherë të njoftojë kujdestarin e përdoruesit ose një kontakt emergjence, tha administrata.
Ofruesit e AI duhet të sigurojnë që shërbimet e tyre të mos gjenerojnë ose ndajnë “përmbajtje që rrezikon sigurinë kombëtare, dëmton nderin dhe interesat kombëtare ose minon unitetin kombëtar”, thuhet në deklaratë.
CAC tha se inkurajon përdorimin e AI, si për të promovuar kulturën lokale dhe krijuar mjete për shoqërim të të moshuarve, për sa kohë që teknologjia është e sigurt dhe e besueshme. Ajo gjithashtu kërkoi reagime nga publiku.
Kompania kineze e AI DeepSeek bëri bujë në mbarë botën këtë vit pasi u rendit në krye të tabelave të shkarkimeve të aplikacioneve.
Këtë muaj, dy startup-e kineze Z.ai dhe Minimax, të cilat së bashku kanë dhjetëra miliona përdorues, njoftuan planet për t’u listuar në tregun e aksioneve.
Teknologjia ka fituar shpejt një numër të madh abonentësh, me disa që e përdorin për shoqëri ose terapi.
Ndikimi i AI mbi sjelljen njerëzore ka qenë nën vëzhgim të shtuar në muajt e fundit.
Sam Altman, drejtuesi i OpenAI, kompania krijuese e ChatGPT, tha këtë vit se mënyra se si chatbot-et përgjigjen ndaj bisedave që lidhen me vetëdëmtimin është një nga problemet më të vështira të kompanisë.
Në gusht, një familje në Kaliforni paditi OpenAI për vdekjen e djalit të tyre 16-vjeçar, duke pretenduar se ChatGPT e kishte inkurajuar të merrte jetën e tij. Padia shënoi aksionin e parë ligjor që akuzonte OpenAI për vdekje të parregullt.
Këtë muaj, kompania reklamoi për një “kryetar përgatitjeje” që do të ishte përgjegjës për mbrojtjen nga rreziqet e modeleve të AI për shëndetin mendor të njerëzve dhe sigurinë kibernetike.
Kandidati i suksesshëm do të jetë përgjegjës për ndjekjen e rreziqeve të AI që mund të shkaktojnë dëm njerëzve. Z. Altman tha: “Ky do të jetë një punë stresuese, dhe ju do të hidheni në thellësi pothuajse menjëherë.”
