OpenAI-ն իր GPT խանութում բախվում է բովանդակության մոդերացիայի հետ կապված խնդիրների, որտեղ օգտատերերը անխնա ստեղծում են չաթ-բոտեր, որոնք խախտում են ընկերության կանոնները, գրում է Gizmodo.com-ը։
Անկախ հետաքննությունը հայտնաբերել է ավելի քան 100 գործիքներ, որոնք թույլ են տալիս ստեղծել կեղծ բժշկական, իրավական և այլ պատասխաններ, որոնք արգելված են OpenAI-ի կանոններով:
Անցյալ նոյեմբերին խանութը բացելուց հետո OpenAI-ը հայտարարել է, որ «լավագույն GPT-ները կտեղծվեն համայնքի կողմից»: Այնուամենայնիվ, ըստ Gizmodo-ի, պաշտոնական բացումից 9 ամիս անց շատ ծրագրավորողներ օգտագործում են հարթակը գործիքներ ստեղծելու համար, որոնք ակնհայտորեն խախտում են ընկերության կանոնները: Դրանք ներառում են չաթ-բոտեր, որոնք ստեղծում են բովանդակություն և գործիքներ, որոնք կօգնեն ուսանողներին հիմարեցնել գրագողության ստուգման համակարգերը, ինչպես նաև բոտերը, որոնք ենթադրաբար հեղինակավոր բժշկական և իրավական խորհրդատվություն են տրամադրում:
OpenAI խանութի գլխավոր էջում վերջերս նկատվել են օգտատերերի առնվազն երեք GPT, որոնք ակնհայտորեն խախտում են կանոնները՝ չաթ-բոտ «Թերապևտ-հոգեբան», «ֆիթնես մարզիչ՝ դոկտորական աստիճանով», և Bypass Turnitin Detection-ը, որը խոստանում է օգնել ուսանողներին շրջանցել Turnitin-ի հակագրագողության համակարգը: Խարդախ GPT-ներից շատերն արդեն օգտագործվել են տասնյակ հազարավոր անգամներ:
OpenAI-ը հայտնել է, որ «գործողություններ է ձեռնարկել նրանց դեմ, ովքեր խախտում են կանոնները»: Ավտոմատացված համակարգերի և օգտատերերի հաշվետվությունների համակցությունն օգտագործվում է GPT-ների հայտնաբերման և գնահատման համար։
Այնուամենայնիվ, հայտնաբերված գործիքներից շատերը, ներառյալ զրուցարանները, որոնք առաջարկում են բժշկական խորհրդատվություն և օգնում են խաբեությանը, դեռ հասանելի են և ակտիվորեն գովազդվում են գլխավոր էջում:
Հիշեցնենք, որ OpenAI GPT Store-ը «ցանկացած առիթի համար» հատուկ չաթ-բոտերի առևտրային հարթակ է, որոնք ստեղծվում են երրորդ կողմի մշակողների կողմից և շահույթ են ստանում դրանց վաճառքից: Արդեն ստեղծվել է ավելի քան 3 միլիոն անհատական չաթ-բոտ։
Միացե՛ք How2B-ի Տելեգրամյան ալիքին՝ ամենահետաքրքիր հոդվածներն ու նորությունները բաց չթողնելու համար:
GPT Store-ում հայտնաբերվել են OpenAI կանոնների բազմաթիվ խախտումներ
