Ahmad Shadid z O.XYZ o příslibech a úskalích programovacích nástrojů s umělou inteligencí: Vyvažování inovací s bezpečností a složitostí
Stručně
Nástroje založené na umělé inteligenci, jako je Cursor, transformují vývoj prototypů, ale odborníci varují před jejich omezeními a potenciálními riziky zjednodušování pracovních postupů v softwarovém inženýrství.
Nedávno Sebastian Siemiatkowski, generální ředitel společnosti Klarna, globální platební společnosti nabízející služby „kup teď, plať později“, sdílené jak nástroje umělé inteligence, jako je Cursor, způsobily revoluci ve vývoji prototypů. Zdůraznil rostoucí trend vibračního kódování, kde umělá inteligence pomáhá generovat kód pomocí pokynů v přirozeném jazyce, zefektivňuje pracovní postupy a snižuje závislost na technických týmech. Tento přístup se stává klíčovou dovedností pro vývojáře a velké společnosti stále více hledají znalosti v oblasti kódovacích nástrojů založených na umělé inteligenci.
V rozhovoru s Mpost, Ahmad Shadid, Generální ředitel O.XYZ— agentický, full-stack ekosystém pro vývoj umělé inteligence — podělil se o své poznatky a odborné znalosti o vývoji tohoto trendu.
Vzestup kódování řízeného umělou inteligencí: Posílení netechnických lídrů, zmírnění rizik a formování budoucnosti softwarového inženýrství
Ahmad Shadid poznamenal, že netechničtí lídři mají nyní díky nástrojům založeným na umělé inteligenci možnost proměnit nápady v klikatelné dema během několika hodin. To urychluje objevování produktů a snižuje rozdíly mezi obchodním záměrem a inženýrstvím. Mezi rizika však patří falešný pocit proveditelnosti, protože prototypy mohou skrývat základní problémy, jako je proveditelnost, bezpečnost a technický dluh. Vedoucí pracovníci se navíc mohou příliš zaměřit na to, co nástroj dokáže vygenerovat, a přehlížet, co je životaschopné ze strategického nebo technického hlediska.
Také se podělil o nejčastější úskalí, kterým týmy čelí při používání kódu generovaného umělou inteligencí, a nabídl postřehy, jak tato rizika zmírnit.
„Mezi hlavní problémy patří nebezpečné zpracování vstupů a slabé autentizační vzorce. Tyto bezpečnostní obavy lze zmírnit vynucováním SAST/DAST v CI, bezpečnostními lintery, skenováním závislostí a modelováním hrozeb u funkcí, které pocházejí z umělé inteligence. Únik dat v výzvách lze omezit směrováním přes schválené poskytovatele, kteří redigují a chrání tajemství, a používáním bran pro výzvy chránících soukromí,“ řekl Ahmad Shadid. Mpost.
„Nejde jen o kód generovaný umělou inteligencí. Pokud člověk není inženýr nebo kodér, často mu chybí komplexní pochopení toho, jak se software vytváří a jak vypadá architektura systému. Umělá inteligence je jen tak dobrá, jako je dobrá výzva, že? Takže nejsou schopni umělou inteligenci správně vyvolat výzvy, což může vést k bezpečnostním hrozbám a problémům, jako jsou API ve frontendu nebo veřejných databázích,“ pokračoval.
Expert dále dodal, že si mnoho inženýrů stěžuje na to, že když se kontext stane příliš rozsáhlým nebo když se něco stane příliš složitým, umělá inteligence začne mít halucinace. Začne v kódu provádět změny, které nebyly potřeba nebo o které nebylo explicitně požádáno. Umělá inteligence také generuje tisíce řádků kódu. Představte si, že se snažíte držet krok s náhodnými změnami kódové báze napříč tisíci řádky kódu.
„Pravidelné časově omezené kontroly „bez umělé inteligence“ jsou v konečném důsledku nezbytné pro udržení základních poznatků a boj proti atrofii dovedností,“ řekl.
V komentáři k otázce, zda by spoléhání se na kódování řízené umělou inteligencí mohlo nakonec změnit způsob, jakým jsou softwaroví inženýři oceňováni a najímáni v různých odvětvích, přičemž „vibrační kódování“ se stane vyhledávanou dovedností i v nabídkách práce, Ahmad Shadid uvedl, že „čím méně je typování surového textu, tím více systémový návrh, kontrola kódu, ladění, zabezpečení a orchestrace dat/AI hrají roli v pochopení produktu. Také jsme byli svědky posunu od „implementace X od nuly“ k „kritice, zdokonalování a rozšiřování kódu vytvořeného umělou inteligencí“ a k nácviku architektury a incidentů. Vzestup „vedoucích párového programování umělé inteligence“, „správců kódu“ a platformních inženýrů, kteří budují zábradlí v softwaru generovaném umělou inteligencí, ukazuje na rostoucí využívání kódování řízeného umělou inteligencí.“
„Začátečníci často přeskakují základy a vrhají se rovnou do rychlého inženýrství, aniž by tušili, čeho chtějí dosáhnout. Na druhou stranu zkušení inženýři získávají výhodu a vytvářejí si tak více času na architekturu, spolehlivost a vhodné výstupy produktů. Explicitní studijní programy, kultura „čtení před zápisem“ a pravidelná cvičení v „manuálním režimu“ mohou pomoci zajistit efektivní a etické používání umělé inteligence pro psaní kódu,“ poznamenal.
Nástroje pro kódování Vibe jsou prospěšné, ale příliš jednoduché na to, aby nahradily tradiční vývojové postupy.
Jednou z obav je, že nástroje pro kódování Vibe by mohly nakonec nahradit tradiční kódovací pracovní postupy. Odborník však poznamenal, že nástroje pro kódování Vibe jsou příliš jednoduché na to, aby nahradily plnohodnotné kódovací pracovní postupy.
„Bude to odteď součástí kódovacích pracovních postupů? Jistě, produktové týmy z toho opravdu těží, protože si mohou rychle nasadit frontend a zkontrolovat různé UX návrhy. Jistě, nezávislí vývojáři a amatéři mohou rychle něco dát dohromady, ale nemůže to nahradit celý pracovní postup. Ve skutečnosti vývoj v současnosti čelí určitým výzvám, zejména proto, že se umělá inteligence stává stále silnější,“ řekl. Mpost.
„Prostě nedokážeme dohnat zbytek, nástroje nedokážou zbytek a čelíme krizi fragmentace nástrojů, kdy vývojáři nyní potřebují jako součást svého pracovního postupu 4, 5 nástrojů. Pokaždé, když přejdete na jiný, ztratíte kontext, prostě nedokážete držet krok a umělá inteligence nedokáže držet krok; nedokážete dotáhnout do konce všechny změny v jednom nástroji a v druhém atd.,“ pokračoval Ahmad Shadid.
Jednoduše řečeno, současné nástroje a platformy pro kódování Vibe mají před sebou ještě dlouhou cestu, než nahradí tradiční kódovací pracovní postupy. Tyto nástroje jsou stále neúplné.
Ahmad Shadid hovoří o budoucnosti umělé inteligence ve vývoji softwaru: Výhody, rizika a potřeba bezpečných a škálovatelných řešení
Ahmad Shadid zdůraznil, že současné vývojové nástroje a prostředí jsou připraveny bezpečně integrovat kódování založené na umělé inteligenci: „Integrace IDE, silné dokončování kódu, slušné refaktory a asistenti vědomi si repozitářů hrají hlavní roli při tvorbě kódu generovaného umělou inteligencí,“ řekl. Mpost„Existují však mezery na úrovni podniku. Jednotná auditovatelnost návrhů umělé inteligence, robustní vymáhání politik s kontrolou nákladů a bezproblémové možnosti on-premise/soukromého modelu by mohly potenciálně vytvořit velké mezery na úrovni podniku,“ dodal expert.
Vzhledem k tomu, že stále více manažerů využívá nástroje umělé inteligence pro rychlé prototypování, mohlo by to pomoci demokratizovat inovace ve firmách. S sebou to však nese také riziko zjednodušení složitosti softwarového inženýrství.
Ahmad Shadid věří, že s větším počtem lidí zapojených do procesu tvorby nápadů mohou firmy rychleji ověřovat nápady a zlepšit mezioborovou spolupráci. To umožňuje rozvíjet více nápadů a zdokonalovat je do stabilních řešení, což tvůrcům dává svobodu vdechnout svým konceptům život pomocí softwaru.
„Používání nástrojů umělé inteligence pro prototypování podceňuje složitost spolehlivosti, provozuschopnosti a rozsahu a činí rozhodnutí založená na demonstracích, která by mohla vést k selhání, pokud by nebyla kontrolována. Tyto nástroje usnadňují prototypování, ale bez kontroly kvality je obtížné je dodávat,“ zdůraznil expert.
Firmy by dále měly umožnit osobám bez technického vzdělání pracovat v izolovaných prostředích, která běží aplikace tiše a soukromě. Použití fiktivních/syntetických dat a nulových přihlašovacích údajů pro produkční prostředí může pomoci minimalizovat rizika úniku dat.
„Jasné strategie identifikace systému, jako jsou jednorázové repozitáře a oddělené jmenné prostory, pomáhají využívat programy umělé inteligence izolovaně. Schválené zásobníky, zabezpečené scaffoldy, vestavěné testy a linting poskytují bezpečnou platformu pro škálovatelnost a odolnost aplikace,“ řekl Ahmad Shadid. Mpost.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
Další články
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
