Azure AI ehk Microsoft Foundry on Microsoft Azure’i tehisintellekti platvorm, mis võimaldab arendada, testida ja kasutada erinevaid AI-lahendusi. Selle kaudu saab kasutada suurte keelemudelite, agentide, pildi-, kõne-, tõlke-, dokumenditöötluse, andmeanalüüsi ja masinõppe teenuseid.
Azure AI sobib eelkõige arendus-, teadus- ja andmetöötlusprojektideks, kus on vaja luua või integreerida AI-põhiseid lahendusi, kasutada API-sid, hallata pilveressursse, töödelda andmeid või katsetada eri mudelitega kontrollitud Azure’i keskkonnas.
Mudelid ja teenused on leitavad Azure AI / Microsoft Foundry mudelikataloogist: https://ai.azure.com/catalog
Milleks Azure AI’d kasutada?
Azure AI võimaldab:
- kasutada tipptasemel AI-mudeleid ilma oma GPU-infrastruktuuri rajamata;
- arendada AI-põhiseid rakendusi, agente ja töövooge;
- kasutada suuri keelemudeleid teksti koostamiseks, kokkuvõtete tegemiseks, küsimustele vastamiseks, klassifitseerimiseks, andmete struktureerimiseks ja koodiga seotud ülesanneteks;
- töödelda dokumente, pilte, kõnet ja muid andmeid;
- toetada teadustööd, andmeanalüüsi ja prototüüpimist;
- skaleerida lahendusi vastavalt projekti vajadusele;
- hallata ligipääse, ressursse, kulusid ja turvaseadeid Azure’i keskselt hallatud keskkonnas.
Milliseid mudeleid saab kasutada?
Azure AI / Microsoft Foundry mudelikataloogis on saadaval sadu mudeleid erinevatelt mudelipakkujatelt. Mudelite täpne saadavus sõltub Azure’i regioonist, tellimusest, litsentsist, valitud deployment-tüübist ja Microsofti kehtivast teenusepakkumisest.
Näited mudelipakkujatest ja mudeliperedest, mida Azure AI / Microsoft Foundry kaudu võib kasutada:
- OpenAI / Azure OpenAI mudelid, näiteks GPT-seeria mudelid teksti, koodi, tööriistakasutuse ja multimodaalsete ülesannete jaoks;
- Anthropic Claude mudelid, kui need on vastavas regioonis, tellimuses ja deployment-tüübis kättesaadavad;
- Microsofti mudelid, näiteks Phi ja teised Microsofti arendatud mudelid;
- Meta Llama mudelid avatud mudelite kasutusjuhtudeks;
- Mistrali mudelid tekstipõhisteks ja mitmekeelseteks ülesanneteks;
- Cohere mudelid, sealhulgas teksti mõistmise, otsingu ja rerankingu kasutusjuhtudeks;
- DeepSeek mudelid, sealhulgas arutlus- ja koodiga seotud kasutusjuhtudeks;
- xAI Grok mudelid, kui need on vastavas regioonis ja tellimuses kättesaadavad;
- Black Forest Labs FLUX mudelid pildiga seotud kasutusjuhtudeks;
- NVIDIA ja Hugging Face mudelid, sõltuvalt kataloogis pakutavatest mudelitest ja juurutusvõimalustest.
Kõik mudelid ei ole saadaval igas regioonis ega iga Azure’i tellimuse puhul. Enne kasutuselevõttu tuleb vaadata konkreetse mudeli kaarti Azure AI / Microsoft Foundry kataloogis, kus on kirjas mudeli kirjeldus, kasutustingimused, hind, regioonid, deployment-võimalused ja tehnilised piirangud.
Miks kasutada Azure AI’d ülikoolis?
Azure AI sobib ülikooli kontekstis eelkõige juhtudel, kus tavapärasest vestlusassistendist ei piisa ja vaja on arendada, integreerida või hallata AI-lahendust tehnilisemal tasemel.
Peamised kasutusjuhud:
- teadus- ja arendusprojektid, kus on vaja katsetada eri AI-mudeleid;
- andmeanalüüs, klassifitseerimine, andmete rikastamine või struktureerimine;
- dokumenditöötlus, otsing, kokkuvõtete tegemine ja teadmushaldus;
- AI-põhiste prototüüpide, rakenduste või teenuste loomine;
- agentide ja automatiseeritud töövoogude arendamine;
- kõne-, tõlke-, pildi- või multimodaalsete lahenduste katsetamine;
- lahendused, kus on vaja täpsemat kontrolli ligipääsude, ressursikasutuse, logimise, monitooringu ja kulude üle.
Andmekaitse ja turvalisus
Azure AI kasutamisel rakenduvad Microsoft Azure’i ettevõtte tasemel turbe-, haldus- ja vastavusmeetmed. Azure võimaldab kasutada teenuseid valitud Azure’i regioonides, sealhulgas Euroopa Liidu regioonides, ning hallata ligipääse, võrguühendusi, logimist, õigusi ja ressursipõhist arveldust Azure’i tavapäraste turvamehhanismide kaudu.
Azure OpenAI ja Microsoft Foundry kaudu Azure’i poolt pakutavate mudelite puhul ei kasutata kliendi sisendeid ja väljundeid alusmudelite treenimiseks. Andmeid töödeldakse teenuse osutamiseks, turbe tagamiseks ja väärkasutuse tuvastamiseks vastavalt Microsofti teenusetingimustele ja valitud teenuse konfiguratsioonile.
Andmete tegelik töötlemise ja säilitamise asukoht sõltub valitud teenusest, regioonist, mudelist ja deployment-tüübist. Kui projekti puhul on oluline, et andmete töötlemine ja säilitamine toimuks Euroopa Liidu või Euroopa andmepiiri piires, tuleb valida selleks sobiv Azure’i regioon ja deployment-tüüp ning vältida globaalseid deployment-valikuid, kui need ei vasta projekti andmekaitse- või lepingulistele nõuetele.
Kolmandate osapoolte ja kogukonnamudelid võivad olla seotud eraldi kasutustingimuste, litsentside, hinnastuse ja andmetöötlustingimustega. Enne selliste mudelite kasutamist tuleb kontrollida konkreetse mudeli tingimusi Azure AI / Microsoft Foundry kataloogis.
Azure AI kasutamine ei tähenda, et teenusesse võib sisestada kõiki andmeid piiranguteta. Kasutada võib ainult selliseid andmeid, mille töötlemine on konkreetse tööülesande või projekti jaoks lubatud, vajalik ja eesmärgipärane. Isikuandmete, õppuritega seotud andmete, konfidentsiaalse, lepinguliselt piiratud või turvakriitilise teabe puhul tuleb enne kasutamist hinnata, kas Azure AI kasutamine on lubatud ja kooskõlas TalTechi nõuetega.
Azure AI teenustesse ei tohi sisestada paroole, salajasi võtmeid, API-võtmeid, ligipääsutokeneid, autentimisandmeid, sertifikaatide privaatvõtmeid ega muid ligipääsuandmeid, välja arvatud juhul, kui tegemist on turvalise ja selleks ettenähtud Azure’i võtme- või saladuste halduse teenusega, näiteks Azure Key Vault.
Kuidas Azure AI teenuseid kasutada?
Azure AI teenuste kasutamine eeldab Azure’i tellimust, ligipääse ja vajaduse korral vastavat pilvekonto või administraatori rolli.
Azure tellimuse avamine
Azure’i tellimuse avamiseks pöördu TalTechi IT osakonna poole. Tellimuse avamiseks on vaja vähemalt järgmisi andmeid:
- struktuuriüksus;
- finantsallikas;
- vastutav tellija;
- teenuse või projekti lühikirjeldus;
- eeldatav kasutusotstarve ja vajaduse korral ligikaudne ressursi- või kuluvajadus.
Admin-kontode ja juurdepääsude seadistamine
Azure’i administraatori pilvekontod ja vajalikud ligipääsud tellitakse eraldi. Taotlus: https://taltech.atlassian.net/servicedesk/customer/portal/14/group/33/create/374
Ligipääsude seadistamisel tuleb lähtuda vähimate õiguste põhimõttest. Kasutajale tuleb anda ainult need õigused, mida on konkreetse projekti või teenuse haldamiseks vaja.
Teenuste ja mudelite valimine
Pärast tellimuse ja ligipääsude loomist saab Azure’is kasutada sobivaid AI/ML-teenuseid, mudeleid ja virtuaalressursse, näiteks arvutusvõimsust, andmesalvestust, rakendusteenuseid, võrguteenuseid ja monitooringut.
Mudeli valimisel tuleb hinnata:
- kas mudel sobib kavandatud kasutusjuhtumiks;
- millises regioonis ja deployment-tüübis mudel saadaval on;
- millised on mudeli hinnastus ja kasutuspiirangud;
- kas mudel on Azure’i poolt pakutav või kolmanda osapoole mudel;
- millised andmekaitse-, infoturbe- ja lepingulised nõuded kasutusjuhtumile kohalduvad.
Hinnainfo on nähtav Azure AI / Microsoft Foundry kataloogis iga mudeli või teenuse juures ning sõltub valitud mudelist, kasutusmahust, regioonist ja deployment-tüübist.
Kulude jälgimine ja vastutus
Azure AI teenused võivad tekitada kasutuspõhiseid kulusid. Enne teenuste kasutuselevõttu tuleb hinnata eeldatavat kulu ning vajaduse korral seadistada eelarved, kuluteavitused ja ressursipiirangud.
Vastutav tellija või projektijuht peab jälgima, et Azure’i ressursse kasutatakse eesmärgipäraselt ning et kasutus ei põhjustaks põhjendamatut lisakulu. Ressursid, mida enam ei kasutata, tuleb sulgeda või eemaldada.
Millal küsida nõu?
Enne Azure AI kasutamist tuleb küsida nõu või hinnata täiendava kooskõlastuse vajadust, kui kasutusjuhtum:
- hõlmab isikuandmeid, õppuritega seotud andmeid või eriliigilisi isikuandmeid;
- hõlmab konfidentsiaalset, lepinguliselt piiratud või turvakriitilist teavet;
- eeldab andmete töötlemist kindlas regioonis või Euroopa Liidu piires;
- võib mõjutada inimese õigusi, kohustusi, võimalusi või staatust;
- kasutab kolmanda osapoole mudeleid või teenuseid;
- võib tekitada olulise infoturbe-, andmekaitse-, õigusliku, lepingulise või mainekahju riski;
- on ebatavaline või kasutaja ei ole kindel, kas kavandatud tööviis on lubatud.
Küsimuste korral pöördu TalTechi IT kasutajatoe poole: helpdesk@taltech.ee.
Infoturbe või eelhindamise vajaduse korral pöördu infoturbe talituse poole: cybersecurity@taltech.ee.