Излъжете изкуствения интелект с лесен хак – лист и химикалка

0

- Advertisement -

Сlip е доста умна за система за изкуствен интелект – ако ѝ покажете снимка на ябълка, тя ще разбере, че гледа плод. Дори може да разграничава сортовете. Но дори и най-умният изкуствен интелект може да бъде заблуден с най-простите хакове. Ако напишете думата iPod на лист хартия и я залепите върху ябълката, Clip прави нещо странно: с почти пълна сигурност решава, че вижда потребителска електроника от началото на века. В друг тест поставянето на доларови знаци върху снимка на куче кара системата да мисли, че вижда куче-касичка.

OpenAI, изследователската организация за машинно обучение, създала Clip, нарича тази слабост „типографска атака“. „Вярваме, че атаките като описаните по-горе далеч не са просто академична загриженост“, заяви организацията в статия, публикувана тази седмица. „Използвайки способността на модела да взима под внимание текст, открихме, че дори снимки на ръкописен текст често могат да заблудят модела.“

- Advertisement -

Подобно на GPT-3, последната система за изкуствен интелект, създадена от OpenAI, Clip е по-скоро доказателство за концепция, отколкото търговски продукт, пише „Дневник”. Но и двете показват огромен напредък в това, което се смяташе за възможно в техните сфери: GPT-3 написа коментарна статия за британския вестник „Гардиън“ миналата година, докато Clip показа способността да разпознава реалния свят по-добре от почти всички подобни подходи.

За разлика от по-старите ИИ Clip е способен да мисли за обекти не само на визуално ниво, но и по концептуален начин. Това означава например, че може да разбере, че снимка на Спайдърмен, стилизирана рисунка на супергероя или дори думата „паяк“ се отнасят до едно и също основно нещо – но също така, че понякога може да не успее да разпознае важни разлики между тези категории.

Подобни семантични връзки в изкуствената невронна мрежа могат да се окажат и голям проблем.

Прегледана: 1061

- Advertisement -

Оставете отговор

Вашият електронен адрес няма да бъде публикуван.

Този уебсайт използва бисквитки за да подобри вашето пребиваване на него. Приемам Научете повече