Train deep learning PyTorch-modellen (SDK v2) - Azure Machine Learning (2023)

GELDT VOOR: Python-SDK azure-ai-mlv2 (huidig)

In dit artikel leert u hoe u eenPyTorchmodel met behulp van de Azure Machine Learning Python SDK v2.

U gebruikt de voorbeeldscripts in dit artikel om kip- en kalkoenafbeeldingen te classificeren om een ​​deep learning neuraal netwerk (DNN) op te bouwen op basis vanPyTorch's zelfstudie over overdrachtsleren. Overdrachtsleren is een techniek die kennis die is opgedaan bij het oplossen van het ene probleem toepast op een ander maar gerelateerd probleem. Leren via overdracht verkort het trainingsproces doordat er minder gegevens, tijd en computerbronnen nodig zijn dan wanneer u helemaal opnieuw traint. Voor meer informatie over overdrachtsleren, zie dediep leren versus machinaal lerenartikel.

Of u nu een deep learning PyTorch-model vanaf het begin traint of een bestaand model naar de cloud brengt, u kunt Azure Machine Learning gebruiken om open-source trainingstaken uit te schalen met behulp van elastische cloudcomputingbronnen. U kunt modellen op productieniveau bouwen, implementeren, versieren en bewaken met Azure Machine Learning.

Vereisten

Om te profiteren van dit artikel, moet u:

• Toegang tot een Azure-abonnement. Als je er nog geen hebt,Maak een gratis account.
• Voer de code in dit artikel uit met behulp van een Azure Machine Learning-rekeninstantie of uw eigen Jupyter-notebook.
  • Azure Machine Learning-rekeninstantie: geen downloads of installatie nodig
    • Voltooi deQuickstart: Aan de slag met Azure Machine Learningom een ​​speciale notebookserver te maken die vooraf is geladen met de SDK en de voorbeeldrepository.
    • Zoek in de deep learning-map met voorbeelden op de notebookserver een voltooid en uitgebreid notebook door naar deze map te navigeren:v2 > sdk > python > jobs > single-step > pytorch > train-hyperparameter-tune-deploy-with-pytorch.
  • Uw Jupyter-notebookserver
    • Installeer de Azure Machine Learning SDK (v2).
    • Download het trainingsscriptbestandpytorch_train.py.

U kunt ook een voltooid vindenJupyter Notebook-versievan deze handleiding op de GitHub-voorbeeldpagina.

Voordat u de code in dit artikel kunt uitvoeren om een ​​GPU-cluster te maken, moet u dit doeneen quotumverhoging aanvragenvoor je werkruimte.

Stel de baan in

In deze sectie wordt de taak voor training ingesteld door de vereiste Python-pakketten te laden, verbinding te maken met een werkruimte, een rekenresource te maken om een ​​opdrachttaak uit te voeren en een omgeving te maken om de taak uit te voeren.

Maak verbinding met de werkruimte

Eerst moet u verbinding maken met uw Azure Machine Learning-werkruimte. DeAzure Machine Learning-werkruimteis de bron op het hoogste niveau voor de service. Het biedt u een gecentraliseerde plek om te werken met alle artefacten die u maakt wanneer u Azure Machine Learning gebruikt.

We gebruikenDefaultAzureCredentialom toegang te krijgen tot de werkruimte. Deze referentie moet in staat zijn om de meeste Azure SDK-authenticatiescenario's te verwerken.

AlsDefaultAzureCredentialwerkt niet voor jou, zie jeazure-identiteitsreferentiedocumentatieofStel authenticatie invoor meer beschikbare referenties.

# Omgaan met de werkruimte van azure.ai.ml import MLClient# Authenticatiepakket van azure.identity import DefaultAzureCredentialcredential = DefaultAzureCredential()

Als u liever een browser gebruikt om u aan te melden en te verifiëren, moet u de volgende code verwijderen en in plaats daarvan gebruiken.

# Ga naar de werkruimte# van azure.ai.ml import MLClient# Authenticatiepakket# van azure.identity import InteractiveBrowserCredential# credential = InteractiveBrowserCredential()

Krijg vervolgens toegang tot de werkruimte door uw abonnements-ID, de naam van de resourcegroep en de naam van de werkruimte op te geven. Om deze parameters te vinden:

1. Zoek naar de naam van uw werkruimte in de rechterbovenhoek van de werkbalk van Azure Machine Learning Studio.
2. Selecteer de naam van uw werkruimte om uw resourcegroep en abonnements-ID weer te geven.
3. Kopieer de waarden voor Resourcegroep en Abonnements-ID in de code.

# Verkrijg een ingang naar de workspaceml_client = MLClient(credential=credential, subscription_id="", resource_group_name="", workspace_name="",)

Het resultaat van het uitvoeren van dit script is een werkruimtehandle die u zult gebruiken om andere bronnen en taken te beheren.

Maak een rekenresource om de taak uit te voeren

Azure Machine Learning heeft een rekenresource nodig om een ​​taak uit te voeren. Deze resource kan een machine met één of meerdere knooppunten zijn met Linux of Windows OS, of een specifieke compute-fabric zoals Spark.

In het volgende voorbeeldscript richten we een Linuxreken cluster. Je kan de ... zienAzure Machine Learning-prijzenpagina voor de volledige lijst met VM-grootten en prijzen. Aangezien we voor dit voorbeeld een GPU-cluster nodig hebben, kiezen we eenSTANDAARD_NC6model en maak een Azure Machine Learning Compute.

from azure.ai.ml.entities import AmlComputegpu_compute_taget = "gpu-cluster"try: # laten we kijken of het rekendoel al bestaat gpu_cluster = ml_client.compute.get(gpu_compute_taget) print( f"Je hebt al een cluster met de naam {gpu_compute_taget} , we zullen het hergebruiken zoals het is." )behalve Uitzondering: print("Een nieuw gpu-rekendoel maken...") # Laten we het Azure ML-rekenobject maken met de bedoelde parameters gpu_cluster = AmlCompute( # Naam toegewezen aan de rekeneenheid cluster name="gpu-cluster", # Azure ML Compute is de on-demand VM-service type="amlcompute", # VM Family size="STANDARD_NC6", # Minimale actieve knooppunten wanneer er geen taak wordt uitgevoerd min_instances=0, # Knooppunten in cluster max_instances=4, # Hoeveel seconden zal het knooppunt draaien nadat de taak is beëindigd idle_time_before_scale_down=180, # Dedicated of LowPriority. Dit laatste is goedkoper, maar er is een kans dat de taak wordt beëindigd tier="Dedicated", ) # Nu, we geven het object door aan de create_or_update-methode van MLClient gpu_cluster = ml_client.begin_create_or_update(gpu_cluster).result()print( f"AMLCompute met de naam {gpu_cluster.name} is gemaakt, de rekengrootte is {gpu_cluster.size}")

Creëer een werkomgeving

Om een ​​Azure Machine Learning-taak uit te voeren, hebt u een omgeving nodig. Een Azure Machine Learningomgevingomvat de afhankelijkheden (zoals softwareruntime en bibliotheken) die nodig zijn om uw machine learning-trainingsscript uit te voeren op uw rekenresource. Deze omgeving is vergelijkbaar met een Python-omgeving op uw lokale computer.

Met Azure Machine Learning kunt u een samengestelde (of kant-en-klare) omgeving gebruiken of een aangepaste omgeving maken met behulp van een Docker-image of een Conda-configuratie. In dit artikel hergebruikt u de samengestelde Azure Machine Learning-omgevingAzureML-pytorch-1.9-ubuntu18.04-py37-cuda11-gpu. U gebruikt de nieuwste versie van deze omgeving met behulp van de@laatsterichtlijn.

curated_env_name = "AzureML-pytorch-1.9-ubuntu18.04-py37-cuda11-gpu@latest"

Configureer en verzend uw trainingstaak

In dit gedeelte beginnen we met de introductie van de gegevens voor training. Vervolgens bespreken we hoe u een trainingstaak kunt uitvoeren met behulp van een door ons verstrekt trainingsscript. U leert de trainingstaak te bouwen door de opdracht te configureren voor het uitvoeren van het trainingsscript. Vervolgens dient u de trainingstaak in om uit te voeren in Azure Machine Learning.

Haal de trainingsgegevens op

U gebruikt gegevens die zijn opgeslagen op een openbare blob als eenZip bestand. Deze dataset bestaat uit ongeveer 120 trainingsbeelden elk voor twee klassen (kalkoenen en kippen), met 100 validatiebeelden voor elke klasse. De afbeeldingen zijn een subset van deOpen Afbeeldingen v5-gegevensset. We downloaden en extraheren de dataset als onderdeel van ons trainingsscriptpytorch_train.py.

Bereid het trainingsscript voor

In dit artikel hebben we het trainingsscript gegevenpytorch_train.py. In de praktijk zou u in staat moeten zijn om elk aangepast trainingsscript ongewijzigd te gebruiken en uit te voeren met Azure Machine Learning zonder dat u uw code hoeft te wijzigen.

Het meegeleverde trainingsscript downloadt de gegevens, traint een model en registreert het model.

Bouw de trainingsbaan

Nu u over alle activa beschikt die nodig zijn om uw taak uit te voeren, is het tijd om deze te bouwen met behulp van de Azure Machine Learning Python SDK v2. Voor dit voorbeeld maken we eencommando.

Een Azure Machine Learningcommandois een bron die alle details specificeert die nodig zijn om uw trainingscode in de cloud uit te voeren. Deze details omvatten de invoer en uitvoer, het type hardware dat moet worden gebruikt, de software die moet worden geïnstalleerd en het uitvoeren van uw code. Decommandobevat informatie om een ​​enkele opdracht uit te voeren.

Configureer de opdracht

U gebruikt het algemene doelcommandoom het trainingsscript uit te voeren en uw gewenste taken uit te voeren. Maak eenCommandobezwaar maken om de configuratiedetails van uw trainingstaak op te geven.

from azure.ai.ml import commandfrom azure.ai.ml import Inputjob = command( inputs=dict( num_epochs=30, learning_rate=0.001, momentum=0.9, output_dir="./outputs" ), compute=gpu_compute_taget, environment=curated_env_name , code="./src/", # locatie van broncode command="python pytorch_train.py --num_epochs ${{inputs.num_epochs}} --output_dir ${{inputs.output_dir}}", experiment_name="pytorch -birds", display_name="pytorch-birds-image",)

• De invoer voor deze opdracht omvat het aantal tijdperken, leersnelheid, momentum en uitvoerdirectory.
• Voor de parameterwaarden:
  • het rekencluster leverengpu_compute_target = "gpu-cluster"die u hebt gemaakt om deze opdracht uit te voeren;
  • zorgen voor de samengestelde omgevingAzureML-pytorch-1.9-ubuntu18.04-py37-cuda11-gpudie u eerder hebt geïnitialiseerd;
  • configureer de opdrachtregelactie zelf - in dit geval is de opdrachtpython pytorch_train.py. U hebt toegang tot de in- en uitgangen in het commando via de${{ ... }}notatie; En
  • configureer metadata zoals de weergavenaam en experimentnaam; waar een experiment een container is voor alle iteraties die men op een bepaald project doet. Alle taken die onder dezelfde experimentnaam zijn ingediend, worden naast elkaar weergegeven in Azure Machine Learning Studio.

Geef de baan op

Het is nu tijd om de taak in te dienen voor uitvoering in Azure Machine Learning. Deze keer gebruik jecreate_or_updateopml_client.jobs.

ml_client.jobs.create_or_update(taak)

Na voltooiing registreert de taak een model in uw werkruimte (als resultaat van training) en voert een koppeling uit voor het bekijken van de taak in Azure Machine Learning Studio.

Wat gebeurt er tijdens de uitvoering van de taak

Terwijl de taak wordt uitgevoerd, doorloopt deze de volgende fasen:

• voorbereidingen treffen: Er wordt een docker-image gemaakt volgens de gedefinieerde omgeving. De afbeelding wordt geüpload naar het containerregister van de werkruimte en in de cache opgeslagen voor latere uitvoeringen. Logboeken worden ook naar de taakgeschiedenis gestreamd en kunnen worden bekeken om de voortgang te volgen. Als er een gecureerde omgeving is opgegeven, wordt de in de cache opgeslagen afbeelding gebruikt die de gecureerde omgeving ondersteunt.

• Schalen: Het cluster probeert op te schalen als er meer knooppunten nodig zijn om de uitvoering uit te voeren dan momenteel beschikbaar zijn.

• Rennen: Alle scripts in de scriptmapsrcworden geüpload naar het rekendoel, gegevensarchieven worden aangekoppeld of gekopieerd en het script wordt uitgevoerd. Uitgangen vanstoeren de./logboekenmap worden naar de taakgeschiedenis gestreamd en kunnen worden gebruikt om de taak te controleren.

Modelhyperparameters afstemmen

U hebt het model getraind met één set parameters. Laten we nu kijken of u de nauwkeurigheid van uw model verder kunt verbeteren. U kunt de hyperparameters van uw model afstemmen en optimaliseren met behulp van Azure Machine Learningvegenmogelijkheden.

Om de hyperparameters van het model af te stemmen, definieert u de parameterruimte waarin moet worden gezocht tijdens de training. U doet dit door enkele van de parameters die aan de trainingstaak zijn doorgegeven, te vervangen door speciale invoer van deazure.ml.sweeppakket.

Aangezien het trainingsscript een leersnelheidsschema gebruikt om de leersnelheid om de verschillende tijdvakken te verlagen, kunt u de initiële leersnelheid en de momentumparameters afstemmen.

van azure.ai.ml.sweep import Uniform# zullen we de eerder gemaakte command_job hergebruiken. we noemen het een functie zodat we input kunnen toepassenjob_for_sweep = job(learning_rate=Uniform(min_value=0.0005, max_value=0.005), momentum=Uniform(min_value=0.9, max_value=0.99),)

Vervolgens configureert u sweep op de opdrachttaak, met behulp van enkele sweep-specifieke parameters, zoals de primaire metriek die moet worden bekeken en het bemonsteringsalgoritme dat moet worden gebruikt.

In de volgende code gebruiken we willekeurige steekproeven om verschillende configuratiesets van hyperparameters te proberen in een poging onze primaire metriek te maximaliseren,best_val_acc.

We definiëren ook een beleid voor vroegtijdige beëindiging, deBandit-beleid, om slecht presterende runs voortijdig te beëindigenBandit-beleidbeëindigt elke run die niet binnen de slappe factor van onze primaire evaluatiestatistiek valt. U past dit beleid elke periode toe (sinds we onzebest_val_accmetrisch elk tijdperk enevaluatie_interval=1). Merk op dat we de eerste beleidsevaluatie zullen uitstellen tot na de eerste 10 tijdperken (vertraging_evaluatie=10).

van azure.ai.ml.sweep import BanditPolicysweep_job = job_for_sweep.sweep( compute="gpu-cluster", sampling_algorithm="random", primary_metric="best_val_acc", goal="Maximize", max_total_trials=8, max_concurrent_trials=4, early_termination_policy =BanditPolicy( slap_factor=0.15, evaluatie_interval=1, vertraging_evaluatie=10 ),)

Nu kunt u deze taak indienen zoals voorheen. Deze keer voer je een veegopdracht uit die je treinbaan veegt.

geretourneerd_sweep_job = ml_client.create_or_update(sweep_job)# stream de uitvoer en wacht tot de taak is voltooidml_client.jobs.stream(returned_sweep_job.name)# ververs de laatste status van de taak na het streamenreturned_sweep_job = ml_client.jobs.get(name=returned_sweep_job.name )

U kunt de opdracht volgen door gebruik te maken van de studio-gebruikersinterfacelink die tijdens de uitvoering van de opdracht wordt gepresenteerd.

Vind het beste model

Zodra alle runs zijn voltooid, kunt u de run vinden die het model met de hoogste nauwkeurigheid heeft geproduceerd.

from azure.ai.ml.entities import Modelif geretourneerd_sweep_job.status == "Voltooid": # Laten we eerst de run ophalen die ons het beste resultaat opleverde best_run = geretourneerd_sweep_job.properties["best_child_run_id"] # laten we het model van deze run halen model = Model( # het script slaat het model op als "outputs" path="azureml://jobs/{}/outputs/artifacts/paths/outputs/".format(best_run), name="run-model-example" , description="Model gemaakt van run.", type="custom_model", )else: print( "Sweep job status: {}. Wacht tot het voltooid is".format( geretourneerd_sweep_job.status ) )

Implementeer het model als een online eindpunt

U kunt uw model nu implementeren als eenonline eindpunt-dat wil zeggen, als een webservice in de Azure-cloud.

Om een ​​machine learning-service te implementeren, hebt u doorgaans het volgende nodig:

• De modelactiva die u wilt implementeren. Deze activa omvatten het bestand van het model en de metagegevens die u al hebt geregistreerd in uw trainingstaak.
• Sommige code om als een service uit te voeren. De code voert het model uit op een bepaald invoerverzoek (een invoerscript). Dit invoerscript ontvangt gegevens die zijn ingediend bij een geïmplementeerde webservice en geeft deze door aan het model. Nadat het model de gegevens heeft verwerkt, retourneert het script het antwoord van het model naar de client. Het script is specifiek voor uw model en moet de gegevens begrijpen die het model verwacht en retourneert. Wanneer u een MLFlow-model gebruikt, maakt Azure Machine Learning dit script automatisch voor u.

Zie voor meer informatie over implementatieImplementeer en scoor een machine learning-model met een beheerd online eindpunt met behulp van Python SDK v2.

Maak een nieuw online eindpunt

Als eerste stap bij het implementeren van uw model moet u uw online eindpunt maken. De eindpuntnaam moet uniek zijn in de gehele Azure-regio. Voor dit artikel maakt u een unieke naam met behulp van een Universally Unique Identifier (UUID).

import uuid# Een unieke naam maken voor het endpointonline_endpoint_name = "aci-birds-endpoint-" + str(uuid.uuid4())[:8]

from azure.ai.ml.entities import ManagedOnlineEndpoint# maak een online endpointendpoint = ManagedOnlineEndpoint( name=online_endpoint_name, description="Classificeer kalkoenen/kippen met behulp van transfer learning met PyTorch", auth_mode="key", tags={"data": " birds", "method": "transfer learning", "framework": "pytorch"},)endpoint = ml_client.begin_create_or_update(endpoint).result()print(f"Endpoint {endpoint.name} inrichtingsstatus: {endpoint. provisioning_state}")

Nadat u het eindpunt hebt gemaakt, kunt u het als volgt ophalen:

endpoint = ml_client.online_endpoints.get(name=online_endpoint_name)print( f'Endpint "{endpoint.name}" met inrichtingsstatus "{endpoint.provisioning_state}" wordt opgehaald')

Implementeer het model naar het eindpunt

Nadat u het eindpunt hebt gemaakt, kunt u het model implementeren met het invoerscript. Een eindpunt kan meerdere implementaties hebben. Met behulp van regels kan het eindpunt vervolgens verkeer naar deze implementaties leiden.

In de volgende code maakt u één implementatie die 100% van het inkomende verkeer afhandelt. We hebben een willekeurige kleurnaam opgegeven (aci-blauw) voor de inzet. U kunt ook een andere naam gebruiken, zoalsaci-groenofzuur-roodvoor de implementatie. De code om het model op het eindpunt te implementeren doet het volgende:

• implementeert de beste versie van het model dat u eerder hebt geregistreerd;
• scoort het model met behulp van descoren.pybestand; En
• gebruikt de beheerde omgeving (die u eerder hebt opgegeven) om gevolgtrekkingen uit te voeren.

from azure.ai.ml.entities import ( ManagedOnlineDeployment, Model, Environment, CodeConfiguration,)online_deployment_name = "aci-blue"# maak een online deployment.blue_deployment = ManagedOnlineDeployment( name=online_deployment_name, endpoint_name=online_endpoint_name, model=model, environment= curated_env_name, code_configuration=CodeConfiguration(code="./score/", scoring_script="score.py"), instance_type="Standard_NC6s_v3", instance_count=1,)blue_deployment = ml_client.begin_create_or_update(blue_deployment).result()

Test het geïmplementeerde model

Nu u het model naar het eindpunt hebt geïmplementeerd, kunt u de uitvoer van het geïmplementeerde model voorspellen met behulp van deaanroepenmethode op het eindpunt.

Laten we een voorbeeldafbeelding gebruiken voor voorspelling om het eindpunt te testen. Laten we eerst de afbeelding weergeven.

# install pillow als PIL niet kan importeren%pip install pillowimport jsonfrom PIL import Imageimport matplotlib.pyplot as plt%matplotlib inlineplt.imshow(Image.open("test_img.jpg"))

Maak een functie om de afbeelding op te maken en de grootte ervan te wijzigen.

# install torch en torchvision indien nodig%pip install torch%pip install torchvisionimport torchfrom torchvision import transformsdef preprocess(image_file): """Preprocess the input image.""" data_transforms = transforms.Compose( [ transforms.Resize(256), transforms .CenterCrop(224), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]), ] ) image = Image.open(image_file) image = data_transforms(image). float() image = torch.tensor(image) image = image.unsqueeze(0) return image.numpy()

Formatteer de afbeelding en converteer deze naar een JSON-bestand.

image_data = preprocess("test_img.jpg")input_data = json.dumps({"data": image_data.tolist()})met open("request.json", "w") als outfile: outfile.write(input_data)

Vervolgens kun je met deze JSON het endpoint aanroepen en het resultaat printen.

# test de blauwe deploymentresult = ml_client.online_endpoints.invoke( endpoint_name=online_endpoint_name, request_file="request.json", deployment_name=online_deployment_name,)print(result)

Middelen opschonen

Als u het eind punt niet gaat gebruiken, verwijdert u het om het gebruik van de resource te stoppen. Zorg ervoor dat geen andere implementaties het eindpunt gebruiken voordat u het verwijdert.

ml_client.online_endpoints.begin_delete(name=online_endpoint_name)

Volgende stappen

In dit artikel hebt u een neuraal netwerk voor diep leren getraind en geregistreerd met behulp van PyTorch op Azure Machine Learning. U hebt het model ook geïmplementeerd op een online eindpunt. Zie deze andere artikelen voor meer informatie over Azure Machine Learning.

• Volg hardloopstatistieken tijdens de training
• Stem hyperparameters af
• Referentiearchitectuur voor gedistribueerde deep learning-training in Azure