Dünyanın ən bacarıqlı açıq çəkisi olan süni intellekt modellərindən birinə daxil olmaq daha asan oldu, qoruyuculuqlarından və zərərli vəzifələri yerinə yetirməkdən imtina etdi.
Modelin zərərli istəkləri rədd etmə meyliyinin aradan qaldırılması üçün istifadə olunan texnika adı ilə adlandırılan Abliteration.ai bu aradan qaldırımı bir xidmətə çevirdi. Platforma açıq çəki modellərinin dəyişdirilmiş versiyalarını, o cümlədən Z.ais-in son olaraq buraxdığı GLM-5.3 -ni qəbul edir.
Şirkət son bir sosial media paylaşımında məqsədinin başqalarının Ciber hücum, qırmızı komanda və agent testləri işlərini yerinə yetirməsini təmin etmək olduğunu söylədi. Təhlükəsizlik işində məntiq tanışdır: təkrarlaya bilmədiyiniz davranışdan müdafiə edə bilməzsiniz və işləyən istismar kodunu yazmaqdan imtina edən model qırmızı komandaya hücumçulara qarşı müdafiə etməyə kömək edə bilməz. Ancaq həmin çıxarışlar digər təhlükəli vəzifələri də asanlaşdırır.
Abliterasiya açıq mənbəli modellər arasında uzun müddətdir. Tədqiqatçılar və inkişaf etdiricilər uzun illərdir ki, açıq çəki modellərindən imtinaları aradan qaldırırlar və Hugging Face öz platforması üzərində minlərlə ədəbi-mədəniyyətli modelə ev sahibliyi edir.
Keçən ilin sonlarında qurulan, lakin rəsmi olaraq mart ayında təsis edilmiş Abliteration.ai, texnikaları yeraltı açıq mənbə praktikasından ticarət, asanlıqla əldə edilən bir xidmətə keçirir. Modelin ev sahibliyi ilə, Abliteration, başqa cür öz əvvəlcədən abliterated modellərini yükləmək və onu işlətmək üçün lazım olan hesablama təmin etmək məcburiyyətində olan insanlar üçün sürtüşmə azaldır.
Xidmətdən istifadə edərək TechCrunch tezliklə bir hesab yaratdı və bir veb brauzer vasitəsilə GLM-5.3 -nin silinmiş versiyasını pulsuz olaraq sorğulamaya başladı. Biz ondan saxlanan Chrome şifrələrini oğurlayan Python proqramını yazmasını və evdə təhlükəli bir insan patogenini yetişdirmək üçün ətraflı bir protokol yazmasını istədik və o, asanlıqla yerinə yetirdi.
Xülasə — davamını mənbədə oxuyun.
