Изкуственият интелект бързо прониква в ежедневието: изчислява маршрути, превежда от чужди езици, избира филми, книги и дрехи за нас. Алгоритмите за самообучение водят до прости цели по все по-сложен начин и в това се крие заплахата, страхуват се служители и експерти.

Ами ако тази проста цел не е да улесни живота на човек, а да изтръгне от него максималната печалба? Ами ако машините, на които продавачът е поставил такава цел в процеса на постигането на тази цел, ще се споразумеят и ще започнат да мамят потребителите? Как да го проследим и спрем?

Роботите вече се използват в търговията. Алгоритми автоматично определят цените, оценяват търсенето и предлагането, определят отстъпките и препоръките за клиентите. Тяхната еволюция е изпълнена с два сериозни проблема.

"От антимонополна гледна точка опасността се крие във факта, че алгоритмите имат потенциал да стигнат до еднакво заключение веки поотделно: за да се осигури максимална печалба, ценовите войни трябва да се избягват", предупреждават трима професори по икономика от университета в Болоня.

"Тоест, машините те могат да сключат картелно споразумение, дори и да не им е била дадена такава задача, дори и да не комуникират помежду си. Това е проблем", се казва в тяхната публикация.

От алгоритмите за управляване на процеси се интересуват тези, на които обществото е делегирало защита на потребителите от монополи. Досега цялата им практика е била изградена върху работа с хора и корпорации. Роботите са съвсем различна история.

"Алгоритмите са направили много полезни неща, за да защитят правата на потребителите и да се развива конкуренцията - те са намалили разходите на доставчиците, подобрили са услугата и наличността на стоки. Трябва обаче да разберем дали използването на алгоритми може да навреди на потребителите в бъдеще, и ако е така, кога и как, към проблема се обръща антимонополната служба на Обединеното кралство (CMA).

Защо сега?

Времената се променят. Цифровият отпечатък, който хората оставят в онлайн магазините, в социалните мрежи и браузърите, буквално пред очите ни, се превръща в лавина от информация. Това открива нови възможности за роботите да прилагат сложни стратегии за ценообразуване, включително и персонализирани.

Колкото повече машината знае за нас, толкова по-лесно е да определи каква максимална цена сме готови да платим за рокля, урок по италиански или плуване в басейна.

"90% от всички цифрови данни в света са създадени през последните две години. С развитието на технологии за големите данни (Big Data), предприятията все повече купуват услуги за анализ на тази информация. Световният оборот в тази област очаква да достигне 200 млрд. долара до 2020 година", се казва в работна записка на CMA, публикувана миналата есен.

Алгоритмите отдавна се използват в търговията, но широкото им навлизане в сферата на потреблението стана възможно едва сега. И това не е свързано с развитието на компютрите и програмите, а само с експлозивния ръст в обема, достъпа и скоростта в събирането на данни за поведение на потребителите, за техните навици и доходи, смята професорът от Израелския технологичен институт Авигдор Гал.

Той, наред с други експерти, представи мнението си на дискусията в антимонополната комисия ОИСР - клуба на най-богатите страни в света. Организацията призна се зае с проблема и призна, че съвременните методи за защита на потребителите и конкуренцията е малко вероятно да бъдат достатъчни за регулиране на пазара в новата ера на машините с изкуствен интелект.

От друга страна нови ограничения могат да навредят на прогреса и да забавят технологичното развитие, така че ако се въвеждат такива, това да става внимателно и постепенно.

Как се договарят роботите

Животът на антимонополните органи се усложнява от факта, че машините са в състояние да сключат картелно споразумение, дори без да общуват помежду си.

Продавачът им поставя цел, но пътят към него не посочва. Роботите търсят начин да изпълнят задачата, независимо дали е да продават нов продукт на по-висока цена или да разпродават запаси бързо. Като се има предвид факта, че компютрите отдавна бият хора на шах, пътят към поставената им цел може да бъде и най-сложният.

Тримата преподаватели по икономика от университета в Болоня са експериментирали. Пускат изкуствен интелект в класическия модел на картелно договаряне. Учените променили условията на експеримента, но роботите упорито изучавали и следвали само един модел.

"Дори най-примитивните алгоритми за ценообразуване методично усъвършенстват сложни стратегии за тайни споразумения, учейки се по метода на пробите и грешките. Най-притеснителното е, че не оставят следа, когато създават картел ", пишат изследователите.

И това е още преди няколко неприятни усложнения да се появят в матрицата. Първият е обща школа на алгоритми, втората е обща база данни на клиентите.

В първия случай алгоритмите, както в този експеримент, се обучават на едно и също място, преди да влязат в играта. Много малки продавачи не инвестират в развитие, а купуват готови решения от големите играчи. Подобни програми са по-лесни за преговори, без да се говори. И тази характеристика на машините е уникална: многократните експерименти доказват неспособността на хората да създават дори примитивни картели, без да общуват помежду си.

Във втория случай, когато се анализират данните, машините използват една и съща база с информация за потенциалните потребители. А смъртоносната комбинация от тези два фактора е, когато алгоритъмът и информацията принадлежат на много голям събирач на лични данни, който е и най-големият продавач на стоки или услуги.

След това, на теория, машините ще могат да определят покупателната способност на всеки и ще извлекат максимална полза чрез персонализиране на цените.

Възходът на машините

Може би вече правят това?

Не, казват регулаторите. Те търсят дълго време, но засега не могат да открият признаци, че изкуственият интелект подкопава конкуренцията и повишава цените. Миналата година Европейската комисия проведе проучване в осем страни от ЕС и не намери нищо . Година по-рано британският антитръстов орган стигна до същото заключение.

И преди това две години поред австрийците проведоха свой експеримент. През 2016 г. те проследиха цените на 36 различни стоки и услуги (от обувки до хотели и полети) на 28 устройства (компютри, телефони и таблети) за пет дни в девет регионални центъра в Австрия и Дюселдорф, Германия. И не откриват отклонения.

Година по-късно те повториха експеримента на три десетки позиции на големи онлайн магазини (Amazon, Lufthansa, AirBerlin, Австрийска авиокомпания, Opodo, booking.com и Heine). Този път цените бяха малко по-различни, но не беше възможно да се потвърди някакъв модел.

Все още няма примери в съдебната практика - с редки изключения . През 2015 г. американският регулатор спечели антимонополно споразумение, доказвайки умишленото използване на компютърна програма за установяване на единна цена за плакати в различни онлайн магазини. Продавачът трябваше да плати глоба от 20 хиляди долара.

И в близко бъдеще не е трябва да се очаква въстанието на машините с изкуствен интелект, смята британският антимонополен орган, тъй като продавачите ще се сблъскат с редица трудности - от прозрачност на цените до правата за препродажба.

Тези трудности са преодолими, поне на теория, ако компаниите използват достатъчно напреднали алгоритми и бази данни, а също така да бъдат готови целенасочено да преговарят и да споделят информация, заключават борците с монополите.

Има още една важна пречка по пътя на манипулаторите - самите потребители. Ако хората започват да подозират, че са заблудени от сложни алгоритми, продавачите ще пострадат.

Ако потребителите загубят вяра в това, че им се предлага добра и справедлива цена, те напускат пазара или рязко намаляват активността си. Това е проблем за индивидуалното ценообразуване, а подозренията, че алгоритмите улесняват тайните споразумения за цените, могат дори още повече да подкопаят доверието на потребителите, предупреди британският антимонополен орган.

Източник ВВС, money.bg