През уикенда, докато работех по втория офис на INDUSTRIA в България (този в Плевен), чийто врати планираме да отворим за след студовете, успях за фон да изгледам няколко видео материала, които промениха гледната ми точка за въвеждането на изкуствения интелект (ИИ) в бизнеса. Първоначално планирах да доразвия темата от предишната си статия, Кой е отговорен за въвеждането на изкуствения интелект в бизнеса?, но осъзнах, че картината е много по-сложна.
В онази статия отбелязах, това, което и други са видяли, а именно - че отговорността за въвеждането на изкуствения интелект е споделена, но водеща роля има висшето ръководство, което притежава най-широкия контекст за бизнеса. Мениджмънтът трябва да насърчава иновациите и да премахва бариери като страх и скептицизъм. Това остава вярно. Но какво се случва, когато духът е пуснат от бутилката и екипите започнат да използват ИИ в ежедневната си работа, особено в софтуерната разработка?
Тук според мен се крие една огромна, почти невидима опасност.
Скритият дълг на Vibe Coding
Вероятно вече всички сте чували за термина Vibe Coding - практиката да се пише код с помощта на ИИ. Двама мои познати, които са братя и професионалисти в различни направления (единитят е архитект-бизнесмен, а другият известен лекар) ми споделиха наскоро, че са се разделили с всички програмисти, с ВСИЧКИ, с целия си екип програмисти за сметка на прграмирането с изкуствен интелект. При тях (а и при мнозина други) "усещането“ е, че нещата работят, без обаче разработчикът напълно да разбира какво точно прави генерираният код. Кодът се приема, защото компилацията минава, тестовете са "зелени" (тоест кодът минава качествен контрол, което твърдят и двамата братя) и на пръв поглед всичко изглежда наред. Проблемът е (и аз им го обясих, но те не ми вярват), че този подход трупа огромен технически дълг, който е тих и невидим, докато не стане твърде късно.
Един от видео материалите, които гледах, We Studied 150 Developers Using AI, представи резултатите от контролиран експеримент. Изводът е шокиращ, но и логичен: ИИ сам по себе си не подобрява качеството на кода. Той действа като усилвател. Опитните разработчици, които вече следват добри инженерни практики, стават още по-добри. Но по-неопитните просто започват да произвеждат лош код по-бързо. Продуктивността се вдига, но за сметка на поддръжката в бъдеще.
Това ни води до второто видео, Why Your Best Employees Quit Using AI After 3 Weeks. То обяснява защо се случва това. Проблемът е в липсата на обучение от "Ниво 201" – това, което учи служителите не просто да използват инструмента, а да го управляват. Когато служителите получат само базови инструкции, те бързо се сблъскват с генерични или грешни резултати, разочароват се и се връщат към стария начин на работа, защото е "по-бързо“.
Цената на ускорението
И така, стигаме до ядрото на проблема. Да, ИИ осигурява невероятен тласък в производителността. Но този тласък идва с огромна цена, ако не се управлява правилно. Опасността е, че компаниите могат да се окажат със софтуерни системи, които никой в екипа не разбира напълно. Код, който работи на повърхността, но отдолу е неразбираем, пълен със зависимости, които никой не помни защо са добавени, и скрити уязвимости в сигурността.
Когато такава система се счупи (а тя неминуемо ще се счупи) – разходите за отстраняване на проблема ще бъдат колосални. ИИ няма да е там в 2 часа през нощта, за да дебъгва. Хората ще са там.
Преосмисляне на отговорността
Това връща топката отново в полето на ръководството, но с нов фокус. Логично е, с внедряването на изкуствен интелект да се занимават експерти като двамата братя (архитектът-бизнесмен и лекарят). Отговорността им не е просто да се осигурят ИИ инструменти и да се насърчи използването им. Истинската отговорност е да се създаде култура, в която разбирането на кода е по-важно от скоростта на неговото писане.
Това означава:
- Инвестиция в обучение от "Ниво 201“: Не просто "как да използваме ChatGPT“, а "как да управляваме ИИ“, "как да оценяваме качеството на генерирания код“ и "как да го интегрираме в съществуващите процеси“.
- Промяна в стимулите: Ако единственият показател за успех е скоростта на доставка, екипите ще почнат да изправят завоите. Трябва да се въведат метрики за качество и поддръжка на кода.
- Задължителна проверка на разбирането: Преди да се приеме код, генериран от ИИ, трябва да се зададе простият въпрос: "Можеш ли да обясниш този код, без да го четеш ред по ред?“. Ако отговорът е "не“, кодът не е готов.
В заключение, макар да е вярно, че висшият мениджмънт трябва да води процеса по внедряване на ИИ, истинската битка се печели на техническия фронт. Трябва да сме наясно, че способността да използваш ИИ за генериране на код е безполезна, ако не си 100% способен да разбереш този код и да го поддържаш. В противен случай просто строим бъдещия си провал, но по-бързо от всякога.
Снимката е на Peter Aroner в Unsplash.
Готови ли сте да предприемете следващата стъпка?
Автоматизацията има смисъл, когато следва реалните бизнес процеси. Ако искате да видите как това изглежда във вашата организация – от банки и логистика до счетоводство и регулации – можем да го обсъдим спокойно и конкретнo.
