ChatGPT-ի և Codex-ի պատասխաններում անտեսանելի նշաններ կհայտնվեն
ChatGPT-ն և Codex-ը Եվրամիության օգտատերերի համար նախատեսված տեքստերում կսկսեն թաքնված մեքենայաընթեռնելի նշաններ ավելացնել։ Ինչպես հայտնում են The Verge-ը և TechCrunch-ը, OpenAI-ը ներդնում է textGrain տեխնոլոգիան՝ արհեստական բանականության մասին եվրոպական օրենքի պահանջները կատարելու համար։
Որտեղ կկիրառվի նշագրումը
Ներդրումը կտևի մի քանի շաբաթ և կտարածվի ԵՄ-ում ChatGPT-ի և Codex-ի՝ գործարկման պայմաններին համապատասխանող օգտատերերի վրա՝ բոլոր սակագնային պլաններում։ OpenAI-ը դեռ չի նախատեսում նշագրումն ամբողջ աշխարհում լռելյայն միացված դարձնել։ Տարածաշրջանային գործարկումը ընկերությանը թույլ կտա ուսումնասիրել տեխնոլոգիայի կիրառությունն ու արձագանքները։
API-ի հաճախորդների համար այլ կարգ է նախատեսված․ ամբողջ աշխարհում նրանք կարող են ինքնուրույն միացնել նշագրումը որոշ մոդելների համար։ Լռելյայն այն անջատված է։ OpenAI-ը նաև աշխատում է ամպային ծառայություններ մատուցող գործընկերների հետ՝ առաջիկա շաբաթներին նրանց ծառայություններում ևս այդ հնարավորությունն ավելացնելու համար։
Արհեստական բանականության մասին եվրոպական օրենքի՝ թափանցիկության կանոններն ուժի մեջ են մտել օգոստոսի 2-ին։ Դրանք պահանջում են ԱԲ-ի ստեղծած նյութերը նշագրել այնպես, որ այլ համակարգերը կարողանան ճանաչել դրանց ծագումը։ Ընդ որում, OpenAI-ն ընտրել է տարածաշրջանային գործարկումը, իսկ Anthropic-ն ավելի վաղ հայտարարել էր Claude-ի տեքստերն ամբողջ աշխարհում նշագրելու մասին։
Ինչպես է textGrain-ը հետք թողնում տեքստում
Նշագրումը չի երևում որպես առանձին պատկերակ կամ գրություն։ Տեխնոլոգիան փոքր-ինչ ուղղորդում է մոդելի բառընտրությունը՝ ստեղծելով ընթերցողի համար աննկատ օրինաչափություն։ Քանի որ նշանը ներդրված է հենց բառերի մեջ, այն պահպանվում է տեքստը սովորական եղանակով պատճենելիս և տեղադրելիս։
OpenAI-ը մեթոդը նկարագրել է Փենսիլվանիայի և Յեյլի համալսարանների հետազոտողների հետ համատեղ պատրաստված տեխնիկական զեկույցում։ Բերված օրինակում գաղտնի բանալին օգնում է դասավորել հաջորդ բառի տարբերակները։ Նման փոփոխությունների ամբողջությունը հատուկ գործիքին թույլ է տալիս որոնել նշանը՝ օգտագործելով տեքստն ու բանալին։
OpenAI-ի հայտարարությամբ՝ textGrain-ի միացումը մոդելների աշխատանքի որակի էական փոփոխությունների չի հանգեցրել։ Ընկերությունը հրապարակել է փորձարկումների արդյունքներ, որոնցում նշագրված և չնշագրված տեքստերը մոտ արդյունքներ են ցույց տվել։ Նշանն ինքնին չի բացահայտում օգտատիրոջ ինքնությունը։
Ինչու հայտնաբերումը երաշխավորված չէ
Խմբագրումը կարող է թուլացնել նշանը։ Փորձարկումներից մեկում բառերի 10%-ը հոմանիշներով փոխարինելը հայտնաբերման ցուցանիշը մոտ 92%-ից նվազեցրել է մինչև 66%։ Կարճ հատվածները, մաթեմատիկական պատասխաններն ու թարգմանված տեքստերը նույնպես ավելի դժվար է ճանաչել։
Սկզբնական փուլում ստուգման գործիքը հանրամատչելի չի լինի՝ նշանը բաց թողնելու և կեղծ հայտնաբերումների վտանգի պատճառով։ Հայտ կարող են ներկայացնել հետազոտողներն ու փորձագիտական կազմակերպությունները, որոնց անհրաժեշտ կլինի հավանություն ստանալ։ Հասանելիությունը կտրամադրվի անհատապես՝ տեխնոլոգիայի հուսալիությունը գնահատելու համար։
Գործիքը հայտնում է՝ արդյոք հայտնաբերվել է OpenAI-ի նշանը, բայց չի բացահայտում օգտատիրոջ հարցումներն ու նամակագրությունը։ Նշանի առկայությունը չի հաստատում տեքստի հավաստիությունը, չի որոշում դրա նկատմամբ իրավունքները և չի չափում մարդու ներդրումը։
Նշանի բացակայությունը նույնպես չի ապացուցում, որ տեքստը մարդ է գրել։ Այն կարող է չափազանց կարճ լինել, մեծապես խմբագրված կամ ստեղծված մեկ այլ ընկերության համակարգով։ Ուստի ստուգման արդյունքը չի կարելի համարել հեղինակին վերաբերող հարցի վերջնական պատասխան։
Ինչ է սա նշանակում Հայաստանի և Ռուսաստանի բիզնեսի համար
Հայաստանի և Ռուսաստանի բիզնեսի համար կարևոր է տարբերակել ChatGPT-ում և Codex-ում տարածաշրջանային ներդրումն ու API-ի միջոցով կամավոր միացումը։ Հայտարարված գործարկումից չի հետևում, որ ԵՄ-ից դուրս OpenAI-ի բոլոր պատասխաններն ինքնաբերաբար նշագրվելու են։
Աշխատանքային նյութերը ստուգելիս նշագրումը պետք է դիտարկել որպես ԱԲ-ի օգտագործման լրացուցիչ ցուցիչ, ոչ թե որակի կամ հեղինակին հաստատող ապացույց։ Այն չի փոխարինում փաստերի ստուգմանը և ցույց չի տալիս, թե որքան աշխատանք է կատարել աշխատակիցը։ Նշանի բացակայությունը նույնպես հիմք չի տալիս նյութն ամբողջությամբ մարդու գրածը համարելու։
Աղբյուրներ
- The Verge: OpenAI is adding text watermarking in ChatGPT and Codex
- TechCrunch: OpenAI will start watermarking ChatGPT’s text in the EU
Ուզո՞ւմ եք ԱԲ գործակալ ձեր բիզնեսի համար
Տեսնել ծառայությունները