Manapság a Mesterséges Intelligencia az egyik legfelkapottabb témakör. Emellett minden felhőszolgáltató igyekszik a saját AI szolgáltatásait minél jobban népszerűsíteni. Az Azure is ezen cégek közé tartozik, így én is úgy gondoltam, hogy érdemes lenne egy kis bevezetőt írni az Azure AI szolgáltatásairól.
Az Azure AI egy olyan felhőalapú szolgáltatás, amely lehetővé teszi a fejlesztők számára, hogy könnyedén integrálják az AI-t a saját alkalmazásaikba. Az Azure AI szolgáltatások között megtalálhatóak a következők:
- Azure Cognitive Services
- Azure Machine Learning
- Azure Bot Service
- Azure Databricks
- Azure OpenAI
- Azure OpenAI Studio
Ezen szolgáltatások segítségével a fejlesztők képesek lehetnek például beszéd- és képfelismerésre, valamint gépi tanulásra alapozott alkalmazásokat készíteni.
Mi jelenleg az Azure OpenAI-t fogjuk megvizsgálni. Ez az amivel a leggyorsabban és legkönnyebben lehet elkezdeni.
Az Azure Cognitive Services egy olyan felhőalapú szolgáltatás, amely lehetővé teszi a fejlesztők számára, hogy könnyedén integrálják az AI-t a saját alkalmazásaikba. Az Azure Cognitive Services szolgáltatások között megtalálhatóak a következők:
- Vision
- Speech
- Language
- Decision
- Web Search
Ezen szolgáltatások segítségével a fejlesztők képesek lehetnek például beszéd- és képfelismerésre, valamint gépi tanulásra alapozott alkalmazásokat készíteni.
Azure-ban a legegyszerűbb eszközünk, ahol el tudjuk kezdeni, az Azure OpenAI Studio.
Itt egy egyszerű regisztrációt követően már el is kezdhetjük az AI modellek fejlesztését. Az Azure OpenAI Studio egy teljesen ingyenes eszköz, amely lehetővé teszi a fejlesztők számára, hogy könnyedén készítsenek és teszteljenek AI modelleket.
Itt találjuk a különböző modelleket, amelyeket az Azure Cognitive Services nyújt. Az egyes modellek használatához csak egy kattintásra van szükség, és már használhatjuk is azokat.
Ahhoz, hogy ezeket a modelleket használni tudjiuk, létre kell hoznunk egy Deployment-et. Ezt a Deployment-et aztán egy API-n keresztül tudjuk elérni, és használni a kiválasztott modelleket.
- Az Azure OpenAI Studio-ban kattintsunk a Deployment menüpontra.
- Kattintsunk a + Deploy model, majd a Deploy base model gombra.
- Válasszuk ki a kívánt modelt (pl.: gpt-4), majd kattintsunk a Confirm gombra.
- Adjunk neki egy nevet.
- Állítsuk be az egyéb paramétereket.
- Kattintsunk a Deploy gombra.
Ha van egy Deploymentünk, akkor már használhatjuk is az adott modelt. Az Azure OpenAI Studio-ban található egy Chat játszótér, ahol kipróbálhatjuk az adott modelleket.
Ez így használhatjuk:
- Az Azure OpenAI Studio-ban kattintsunk a Chat menüpontra.
- Jobb oldalon, a Deployment részben válasszuk ki a Deploymentet.
- A képernyő közepén lévő chat ablakban írjuk be a kérdéseinket.
Több beszélgetési stílusban is kommunikálhatunk az AI-val. Ehhez a Give the model instructions and context részben adnunk kell instrukciókat a nyelvi modell számára. Ez esetben ugyanazon kérdésre különböző válaszokat kaphatunk.
Kérdés: Hogyan kezdjem el az Azure tanulást?
Stílus lerások
- Te egy tapasztalt informatikai szakértő vagy. Csak a tényekre támaszkodj.
- Te egy egyetemi hallgató vagy, aki szinte csak szlengekben válaszol.
- Te egy pesszimista ember vagy, aki már nem hajlandó újat tanulni.
Most próbáljuk ki!
Az Azure Cognitive Services lehetőséget ad arra, hogy saját adatforrásokat is használjunk. Ehhez az Azure OpenAI Studio-ban a Data menüpontra kell kattintanunk, és ott tudjuk hozzáadni a saját adatforrásainkat. Ez azért lehet nekünk hasznos, mivel ez esetben nem kell 100%-ban az AI által talált adatokra hagyatkoznunk, illetve egyéb előnyei is vannak:
- Az AI a mi adatainkon dolgozik, így nem kell aggódnunk a biztonság miatt.
- Az AI a mi adatainkon dolgozik. (Ez lehet a saját dokumentációnk, vagy akár a saját képeink.)
- Csökkenthetjük az AI-ra jellemző hallucinációt.
- Az AI válaszai a mi adatainkon alapulnak, így pontosabbak lehetnek.
Ez lehet akár md fájl is, ami a kódunk, alkalmazásunk dokumentációját tartalmazza. Az AI így könnyedén válaszolhat a felhasználó kérdéseire.
Az alábbi példában egy egyszerű chatbotot fogunk készíteni, amely képes válaszolni a felhasználó kérdéseire.
Ehhez az alábbi erőforrások szükségesek:
- Azure OpenAI
- Azure tárfiók (Azure Storage account)
- Azure AI keresőszolgáltatás (Azure AI Search)
- Lépjünk be az Azure Portalba.
- Kattintsunk a Erőforrás létrehozása gombra.
- Keressük ráa az Azure OpenAI lehetőségre.
- Kattintsunk a Létrehozás gombra.
- Töltsük ki a szükséges mezőket.
- Tarifacsomag: Standard S0
- A Felülvizsgálat és létrehozás oldalon kattintsunk a Létrehozás gombra kattintva hozzuk létre az erőforrást.
- Lépjünk be az Azure Portalba.
- Kattintsunk a Erőforrás létrehozása gombra.
- Keressük meg az Tárolás kategóriát.
- Válasszuk ki a Tárfiók lehetőséget.
- Kattintsunk a Létrehozás gombra.
- Töltsük ki a szükséges mezőket.
- Redundancia: LRS
- A Felülvizsgálat és létrehozás oldalon kattintsunk a Létrehozás gombra kattintva hozzuk létre az erőforrást.
- Nyissuk meg a tárfiókunkat, és kattintsunk a Tárolók menüpontra.
- Hozzunk létre egy új tárolót.
- Név: ai-forras
- Névtelen hozzáférés: Privát
- Kattintsunk az
ai-forrastárolóra, majd töltsük fel a jsonl fájlt, amelyet az AI szolgáltatásunknak szeretnénk használni, mint adatforrás.
- Lépjünk be az Azure Portalba.
- Kattintsunk a Erőforrás létrehozása gombra.
- Keressünk rá a Azure AI Search lehetőségre.
- Kattints a Létrehozás gombra.
- Töltsük ki a szükséges mezőket.
- Név: mentor-ai-search
- Hely legyen ugyanaz, mint a tárfiókunknak
- Tarifacsomag: B (Alap)
- Megjegyzés: Az AI Search ezen tarifa csomagja nagyjából havi 27 000 Forintba kerül. (Ezért csak akkor érdemes használni, ha valóban szükségünk van rá.)
- A Felülvizsgálat és létrehozás oldalon kattintsunk a Létrehozás gombra kattintva hozzuk létre az erőforrást.
- Lépjünk be az Azure OpenAI Studio-ba.
- Kattintsunk a Chat menüpontra.
- A jobb oldalon, a Configuration részben válasszuk ki a Deploymentet.
- A bal olalon, a Setup részben válasszuk ki a Add your data lehetőséget.
- Kattintsunk az Add a data source gombra.
- Select a data source: Azure Blob Storage
- Blob storage account: Válasszuk ki az előbb létrehozott tárfiókunkat.
- Container: Válasszuk ki az
ai-forrastárolót. - Azure AI Search-nél válasszuk ki a mentor-ai-search-t.
- Enter the index name: dokumentum
- Kattintsunk a Next gombra.
- Kattintsunk a Next gombra.
- A Azure resource authentication type résznél válasszuk az API Key lehetőséget.
- Kattintsunk a Next gombra.
- Várjuk meg amíg a beállítások ellenőrzésre kerülnek.
- Összegző képernyőn kattintsunk a Save and close gombra.
- Pár perc múlva az adatforrásunk elérhető lesz a Chatben.
- Az előző pontban létrehozott Chat játszótérben kattintsunk a Deploy gombra.
- Válasszuk a ...as a web app lehetőséget.
- Töltsük ki a szükséges mezőket.
- Name: mentor-chatbot
- Subscription: Válasszuk ki a megfelelő előfizetésünket.
- Resource group: Válasszuk ki a megfelelő erőforrás csoportunkat.
- Location: Válasszuk ki a megfelelő régiót.
- Pricing plan: B1
- Enable chat history in the web app: Igen
- Kattintsunk a Deploy gombra.
- Ha elkészült, nyissuk meg.
- Emngedélyezzük a hozzásférést a Permissions requested ablakban at Accept gombra kattintva,
- Kezdjünk el beszélgetni az AI-val.
- Ma már minden a mesterséges intelligenciáról (AI) szól: Mit jelent ez számunkra?
- Hogyan telepítek NodeJs 20-at Linuxra?
- Hogyan telepítek Python3-at Windowsra?
- Mi az LLM és milyen LLM-eket ismerünk?
- Milyen eszközöket használhatunk LLM-alapú megoldások fejlesztésére?
- Mi a Webhook alkalmazási területei?
- Hogyan néz ki egy Cloud Administrator első napja?
- Milyen segédanyagokat találok az Azure témájú képzésekhez?
- Hogyan tudok kapcsolatot létesíteni az Azure Pipeline és a GitHub között?
- Hasonlítsd össze a következő eszközöket: Azure DevOps és GitHub?
Azure OpenAI Studio-ban lehetőségünk van saját adatforrások használatára. Ezt az előző pontokban már részleteztük, most pedig egy példán keresztül mutatjuk be, hogyan hozhatunk létre egy chat alkalmazást, amely képes válaszolni a felhasználó kérdéseire.
A jelenleg nagyon divatos asszisztenst it is létrehozhatjuk, amely képes válaszolni a felhasználó kérdéseire. Ezt még egyszerűbben is megtehetjük, mint a Chat esetében. Ráadásul dokumentumainkat is felhasználhatjuk az AI válaszainak kialakításához. Ezeket a dokumentumokat az Azure OpenAI Studio-ban a Data Files menüpontban tudjuk feltölteni. Majd egy vektor adatbázist hozhatunk létre, amelyben az AI keresni fogja a válaszokat.
Most nézzük ennek lépéseit:
- Lépjünk be az Azure OpenAI Studio-ba. https://oai.azure.com/
- Kattintsunk a Assistant menüpontra.
- A jobb oldalon, a Configuration részben válasszuk ki a Deploymentet. (Pl.: alap-gpt35-turbo)
- Majd kattintsunk a + Create an assistant gombra.
- Adjunk neki egy nevet. (Pl.: mentor-asszisztens)
- Instructions részben adhatunk instrukciókat az AI-nek. (Pl.: Te egy tapasztalt informatikai szakértő vagy. Csak a tényekre támaszkodj.)
- Tools részben kapcsoljuk be a File search lehetőséget.
- Kattintsunk a + Add vector store gombra.
- Adjunk neki egy nevet. (Pl.: mentor-vektor)
- görgessünk lejjebb és kapcsoljuk be a Select local files lehetőséget.
- Keressük meg a dokumentációinkat, és jelöljük ki azokat. Majd kezdjük meg a feltöltést.
- Kattintsunk a Upload and add gombra.
- Várjuk meg amíg a feltöltés befejeződik.
- Vektor adatbázis állapotának ellnőrzése: A bal oldalon, a Vector stores részben ellenőrizzük, hogy a vektor adatbázisunk állapota Completed-re változott-e.
- Navigéljunk vissza az Assistant menüpontra.
- Teszteljük az asszisztenst.
Példa kérdések 'prompt'
- Ma már minden a mesterséges intelligenciáról (AI) szól: Mit jelent ez számunkra?
- Hogyan telepítek NodeJs 20-at Linuxra?
- Hogyan telepítek Python3-at Windowsra?
- Mi az LLM és milyen LLM-eket ismerünk?
- Milyen eszközöket használhatunk LLM-alapú megoldások fejlesztésére?
- Mi a Webhook alkalmazási területei?
- Hogyan néz ki egy Cloud Administrator első napja?
- Milyen segédanyagokat találok az Azure témájú képzésekhez?
- Hogyan tudok kapcsolatot létesíteni az Azure Pipeline és a GitHub között?
- Hasonlítsd össze a következő eszközöket: Azure DevOps és GitHub?