ML-inference.md

디바이스에서의 ML Inference

Component 생성

ML Greengrass 컴포넌트 생성에 좀 더 자세한 내용이 있습니다.

git을 EC2에 설치합니다.

$ sudo yum install git -y

소스코드를 다운로드 합니다.

$ git clone https://github.com/aws-samples/aiot-e2e-sagemaker-greengrass-v2-nvidia-jetson

ggv2-deploy-cloud 디렉토리 아래에 있는 config.json(aiot-e2e-sagemaker-greengrass-v2-nvidia-jetson/ggv2-deploy-cloud/config.json)을 편집합니다. "Account"에 자신의 account-id를 업데이트하고, "[YOUR-S3-BUCKET]"에는 생성한 버킷 이름을 입력합니다.

{
    "Project": {
        "Name": "MLInferenceFromScratch",
        "Account": "1234512345123",
        "Region": "us-east-1",
        "Profile": "ggv2-demo"
    },
    "Component": {
        "ComponentName": "com.example.ImgClassification",
        "ComponentVersion": "1.0.0",
        "SendMessage": "True",
        "Topic": "ml/example/imgclassification",
        "PredictionIntervalSecs": 3,
        "Timeout": 10
    },
    "Artifacts": {
        "S3Bucket": "[YOUR-S3-BUCKET]",
        "S3Prefix": "ggv2/artifacts",
        "ZipArchiveName": "my-model"
    },
    "Parameters": {
        "UseGPU": 0,
        "ScoreThreshold": 0.25,
        "MaxNumClasses": 3,
        "ModelInputShape": "(224,224)"
    }
}

AWS Account ID는 아래처럼 확인 할 수 있습니다.

$ aws sts get-caller-identity --query Account --output text

EC2에 jq 설치를 합니다.

$ sudo yum install jq -y