Подводница
Учените губят доверие в изкуствения интелект
Учените губят доверие в изкуствения интелект
.Проучване, публикувано от Wiley, установи, че учените са станали по-малко уверени във възможностите на изкуствения интелект (ИИ). Според предварителни данни, доверието на изследователите във възможностите на ИИ е намаляло значително през последната година, съобщава Futurism .
Предварителните резултати от годишния доклад, публикуван днес, показват рязък спад на доверието в изкуствения интелект, въпреки значителното увеличение на броя на учените, използващи този инструмент в работата си. Докато миналата година 51% от анкетираните изразиха загриженост относно проблема с „халюцинациите“ – често срещано явление, при което големи езикови модели генерират несъществуващи факти , представяйки ги за реални – тази цифра сега се е увеличила до 64%. Това се случи едновременно с увеличаване на използването на изкуствен интелект от учените – броят на потребителите се е увеличил от 45% на 62%.
Освен това, опасенията относно сигурността и поверителността са се увеличили с 11%, докато опасенията относно етиката и прозрачността също са се увеличили. Особено забележим е спадът в оптимизма относно потенциала на изкуствения интелект да надмине човешките възможности. Преди година учените смятаха, че изкуственият интелект превъзхожда хората в половината от всички случаи на употреба на технологии, но в новото проучване този дял е спаднал до по-малко от една трета.
Тези открития подкрепят предишни изследвания, показващи, че по-задълбоченото разбиране на принципите на изкуствения интелект намалява доверието в него. Обратно, тези с най-малко познания за технологията се оказаха най-ентусиазирани по отношение на изкуствения интелект.
Причините за съмненията са ясни: проблемът с неверните факти остава сериозна заплаха, причинявайки трудности в съдебните спорове , медицината и пътуванията. Решаването на ситуацията се оказа трудно: тестовете показаха, че макар мощността на моделите да продължава да се увеличава, честотата на неверните твърдения се увеличава заедно с тях.
Друг фактор е търговският аспект на проблема. Потребителите предпочитат уверен отговор, дори и да е неправилен, вместо да признаят неспособността на системата да реши проблема. Пълното елиминиране на неправилните заключения би означавало отчуждаване на значителна част от аудиторията.
Учените стават все по-малко склонни да се доверяват на своите алгоритмични асистенти. Те ясно виждат ограниченията на съвременните технологии и настояват за предпазливост при използването им.
Предварителните резултати от годишния доклад, публикуван днес, показват рязък спад на доверието в изкуствения интелект, въпреки значителното увеличение на броя на учените, използващи този инструмент в работата си. Докато миналата година 51% от анкетираните изразиха загриженост относно проблема с „халюцинациите“ – често срещано явление, при което големи езикови модели генерират несъществуващи факти , представяйки ги за реални – тази цифра сега се е увеличила до 64%. Това се случи едновременно с увеличаване на използването на изкуствен интелект от учените – броят на потребителите се е увеличил от 45% на 62%.
Освен това, опасенията относно сигурността и поверителността са се увеличили с 11%, докато опасенията относно етиката и прозрачността също са се увеличили. Особено забележим е спадът в оптимизма относно потенциала на изкуствения интелект да надмине човешките възможности. Преди година учените смятаха, че изкуственият интелект превъзхожда хората в половината от всички случаи на употреба на технологии, но в новото проучване този дял е спаднал до по-малко от една трета.
Тези открития подкрепят предишни изследвания, показващи, че по-задълбоченото разбиране на принципите на изкуствения интелект намалява доверието в него. Обратно, тези с най-малко познания за технологията се оказаха най-ентусиазирани по отношение на изкуствения интелект.
Причините за съмненията са ясни: проблемът с неверните факти остава сериозна заплаха, причинявайки трудности в съдебните спорове , медицината и пътуванията. Решаването на ситуацията се оказа трудно: тестовете показаха, че макар мощността на моделите да продължава да се увеличава, честотата на неверните твърдения се увеличава заедно с тях.
Друг фактор е търговският аспект на проблема. Потребителите предпочитат уверен отговор, дори и да е неправилен, вместо да признаят неспособността на системата да реши проблема. Пълното елиминиране на неправилните заключения би означавало отчуждаване на значителна част от аудиторията.
Учените стават все по-малко склонни да се доверяват на своите алгоритмични асистенти. Те ясно виждат ограниченията на съвременните технологии и настояват за предпазливост при използването им.
Comments
comments powered by Disqus