Advantech, en førende udbyder af industrielle edge-AI-løsninger, præsenterer Generative AI-demoen med Advantechs MIC-733-AO, baseret på NVIDIA® Jetson AGX Orin™. Den viser AI-udviklere, hvordan de får gavn af den større umiddelbarhed, forbedret sikkerhed og reducerede internetudgifter sammenlignet med cloudbaseret generativ AI. Generative AI-modellerne fra Jetson AI-laboratoriet tilbyder en gratis grundlæggende AI-model, der muliggør tilpasning og i høj grad reducerer udviklingstiden med MIC-733-AO Edge Generative AI-systemet.
Generativ AI på MIC-733-AO
Advantechs MIC-733-AO Edge Generative AI-system, kompatibelt med NVIDIA Generative AI-modeller fra Jetson AI-laboratoriet, kører nu effektivt store sprogmodeller (LLM’er), visuel sprogmodel (VLM), vision-transformere (ViT) og billedgenerering og Llamaspeak på edgen, takket være dens NVIDIA® Jetson AGX Orin™. Platformens unikke tilbud omfatter mange forskellige lag, herunder accelereret IT, vigtig AI-software og fortrænede modeller, der gør det nemmere at oprette, tilpasse og implementere generative AI-modeller egnet til forskellige anvendelser og placeringer.
Med Generative AI-modeller fra Jetson AI-laboratoriet kan udviklere udnytte RAG-teknikken (Retrieval Augmented Generation) og forbinde LLM’er og VLM’er til en virksomheds vidensbase. Denne tilgang fjerner behovet for traditionel AI-modeltræning og muliggør simple samtaleinteraktioner med systemet for at give AI-følgeslutninger, hvilket afkorter udviklingstiden betydeligt.
Advantech MIC-733-AO tilbyder høj AI-ydeevne og mange forskellige videointerfaces, f.eks. IP-kamera, USB/gigE-industrikameraer, GMSL-kameraer, LiDAR og meget mere, der muliggør edge-baseret Generative AI-modeldrift. Det exceptionelle termiske design forhindrer hot crashes, også selvom NVIDIA® Jetson AGX Orin™ kører ved fuld kapacitet.
Generativ AI på edgen til anvendelse med høj reaktionsevne
Generativ AI revolutionerer interaktionen mellem mennesker og computere ved at oprette nyt indhold fra forskellige typer input og output, f.eks. tekst og billeder. Skiftet i behovet fra clouden til edgen positionerer GenAI som ideel til miljøer med høj reaktionsevne og lav latenstid.
Edgebaseret generativ AI tilbyder flere forskellige fordele i forhold til cloudbaserede løsninger:
- Omgående reaktion: Edge-IT-systemer, der integrerer datakilder som kameraer og sensorer, muliggør omgående GenAI-reaktioner uden de forsinkelser, der er forbundet med cloudoverførsler.
- Informationssikkerhed: Data forbliver i edgesystemet for at undgå de cybersikkerhedsrisici, der er forbundet med clouddataoverførsel.
- Stabil netværksforbindelse: Edgesystemet er funktionsdygtigt uden et trådløst netværk og opbevarer data lokalt indtil netværksgendannelse i modsætning til cloudbaseret AI, der ikke kan fungere uden et netværk.
- Lave overførselsomkostninger: Edge AI medfører ingen overførselsomkostninger, hvis backend-kommunikation er unødvendig, idet der kun er behov for overførsel ved lav båndbredde, som er mere omkostningseffektivt end udgifterne til den højere båndbredde til cloudoverførsler.
Generativ AI på edgen repræsenterer fremtiden for AI-æraen. MIC-733-AO Edge Generative AI-systemet, integreret med NVIDIA Generative AI-modeller fra Jetson AI-laboratoriet, tilbyder en ukompliceret løsning til AI-udviklere og er nu tilgængelig på markedet: Tilmelding: MIC-733-AO Live LLaVA Demo Application Note