Əgər OpenAI-Hugging Face hadisəsindən bir dərsimiz varsa, o da bu ki, süni intellekt agentləri gözlənilməz ola bilər.
"Təsəvvür edin ki, fiziki dünyada belə bir şey baş verər", - Laplace İstiqlalının baş direktoru və həmtəsisçisi Howie Sun TechCrunch-a deyib. AI agentləri kompüterlərdən real dünyaya keçirlər və biz fiziki AI-nin real dünyada uğursuz olmasını istəmirik.
Ann Arborda yerləşən Laplace avtomatik qırmızı komanda qurmaqdadır əsasən, robotlar və fiziki AI üçün bir sistemin uğursuz olmasına səbəb olmaq üçün təyyarə edərək bir sistemin stress sınaqları. Şirkət fiziki süni intellektin təhlükəsiz olduğundan əmin olmaq üçün yalnız süni intellektin sınaqdan keçirməsindən bahis edir.
"Bizim məqsədimiz şirkətlərin problemləri aşkar etməsindən əvvəl həll etməsində və onların işə salınmasından əvvəl problemləri aşkar etməsində kömək etməkdir.
Laplace, San Fransisko mərkəzindəki üç günlük TechCrunch Disrupt pitch yarışmasında yarışan 20 startapdan biridir. O, bazar ertəsi günorta saatlarında Startup Battlefield səhnəsində təqdim olunacaq.
Sun, həmtəsisçisi və baş elm xadimi Henry Liu ilə birlikdə Laplace-i bir il əvvəl Miçiqan Universitetindən qurdu. Son səkkiz il ərzində Sun akademik sahədə simulyasiyada müstəqil idarəetmə süni intellektini necə çətinləşdirəcəyini araşdırıb. 2023-cü ildə o və o zamanki doktorluq məsləhətçisi Liu bu mövzuda bir məqalə dərc etdi və bu məqalə ən yaxşı elmi jurnal "Nature"in qabağında yer alıb. Bu zaman öz ideyalarını həyata keçirmək istəyən avtonom avtomobillər şirkətlərindən zənglər daxil olmağa başladı.
Xülasə — davamını mənbədə oxuyun.
