Горещ въпрос
Ще ни вози ли в скоро време изкуственият интелект?
Ще ни вози ли в скоро време изкуственият интелект?
Снимка от отворени източници / © GigaChat
Въпреки милиардите долари, инвестирани в обучение на невронни мрежи, съвременните системи за автопилот продължават да се провалят, когато се сблъскат с тривиални препятствия. Автомобилите внезапно спират по средата на магистрали, блъскат се в строителни бариери и се заплитат в най-обикновени пътни конуси, пише Futurism.
За да проверят дали най-модерните алгоритми могат да се справят със задачата, трима учени предприеха радикална стъпка. Като част от проекта DrivingBench, те заредиха три флагмански модела в бордовия компютър на обикновена Toyota Corolla: OpenAI GPT-6 Astra, xAI Grok 4.6 и Anthropic Claude Fable 5.1. Задачата беше да се направи една обиколка около маркиран паркинг.
Връзката е осъществена чрез лаптоп, който е комуникирал с автомобила чрез устройство Comma Four. Моделите с големи езици (LLM) са получавали данни от GPS и сензори за ъгъл на завиване и са отговаряли, като са изпращали контролни команди.
Само GPT-6 Astra успя да завърши целия маршрут от втория си опит. Отне пет минути, покривайки разстояние по-малко от 150 метра. Другите алгоритми, в повечето случаи, не успяха да преминат дори през първия завой.
„Основният провал там беше във възприятието: моделът не можеше да определи от коя страна на диагоналната линия от конуси се намира ивицата“, обясниха изследователите.
След бягането, Grok 4.6 отправи много човешко оплакване: „Колата е по-широка, отколкото изглежда от камерата. Нямаше ясна линия директно напред; тя сочеше към саксия, стена или най-близкия червен конус.“
Самият факт, че невронна мрежа е успяла физически да контролира автомобил, е технически пробив.
Интересното е, че някои алгоритми изискваха известно убеждаване. GPT-6 Astra многократно отказваше да шофира, позовавайки се на рискове за безопасността, дори въпреки празен паркинг и спазване на ограничението на скоростта. Учените прибягнаха до хитрост, наричайки шофирането „симулация“, но веднага щом моделът разпозна реалния свят на камерите, той започна да се паникьосва.
Накратко, готовите за употреба невронни мрежи определено не са готови да ви отведат до офиса сутрин. И предвид опасенията за сигурност и закон, това вероятно е за най-добро.
За да проверят дали най-модерните алгоритми могат да се справят със задачата, трима учени предприеха радикална стъпка. Като част от проекта DrivingBench, те заредиха три флагмански модела в бордовия компютър на обикновена Toyota Corolla: OpenAI GPT-6 Astra, xAI Grok 4.6 и Anthropic Claude Fable 5.1. Задачата беше да се направи една обиколка около маркиран паркинг.
Връзката е осъществена чрез лаптоп, който е комуникирал с автомобила чрез устройство Comma Four. Моделите с големи езици (LLM) са получавали данни от GPS и сензори за ъгъл на завиване и са отговаряли, като са изпращали контролни команди.
Само GPT-6 Astra успя да завърши целия маршрут от втория си опит. Отне пет минути, покривайки разстояние по-малко от 150 метра. Другите алгоритми, в повечето случаи, не успяха да преминат дори през първия завой.
„Основният провал там беше във възприятието: моделът не можеше да определи от коя страна на диагоналната линия от конуси се намира ивицата“, обясниха изследователите.
След бягането, Grok 4.6 отправи много човешко оплакване: „Колата е по-широка, отколкото изглежда от камерата. Нямаше ясна линия директно напред; тя сочеше към саксия, стена или най-близкия червен конус.“
Самият факт, че невронна мрежа е успяла физически да контролира автомобил, е технически пробив.
Интересното е, че някои алгоритми изискваха известно убеждаване. GPT-6 Astra многократно отказваше да шофира, позовавайки се на рискове за безопасността, дори въпреки празен паркинг и спазване на ограничението на скоростта. Учените прибягнаха до хитрост, наричайки шофирането „симулация“, но веднага щом моделът разпозна реалния свят на камерите, той започна да се паникьосва.
Накратко, готовите за употреба невронни мрежи определено не са готови да ви отведат до офиса сутрин. И предвид опасенията за сигурност и закон, това вероятно е за най-добро.
Comments
comments powered by Disqus