Lokale Modelle (Azure ML)
Geltungsbereich: ServerRpc (serverweite Operationen, die an den Client gebunden sind) Eine Übersicht über RPC und die Liste aller RPC-Seiten finden Sie unter RPC.use Revolution\Copilot\Enums\AzureMlRegistry;
use Revolution\Copilot\Types\Rpc\AzureMlAcquireFamilyRequest;
use Revolution\Copilot\Types\Rpc\AzureMlCancelRequest;
use Revolution\Copilot\Types\Rpc\AzureMlCatalogRequest;
use Revolution\Copilot\Types\Rpc\AzureMlDiscardRequest;
use Revolution\Copilot\Types\Rpc\AzureMlDownloadRequest;
use Revolution\Copilot\Types\Rpc\AzureMlLatestRequest;
use Revolution\Copilot\Types\Rpc\AzureMlReleaseFamilyRequest;
use Revolution\Copilot\Types\Rpc\AzureMlResolveRequest;
use Revolution\Copilot\Types\Rpc\AzureMlStatusRequest;
// Azure ML: Verwaltung lokaler Modelle (experimental)
$azureMl = Copilot::client()->rpc()->azureMl();
$hardware = $azureMl->hardware();
// gpuMemory ist null, wo er nicht gemessen werden kann
$gpuMemory = $hardware->gpuMemory;
$catalog = $azureMl->catalog(new AzureMlCatalogRequest(includeDev: false));
$latest = $azureMl->latest(new AzureMlLatestRequest(
registry: AzureMlRegistry::AzureMl,
name: 'phi',
));
$resolved = $azureMl->resolve(new AzureMlResolveRequest(
registry: AzureMlRegistry::AzureMl,
name: $latest->name,
version: $latest->version,
));
// requestId und leaseId sind an diese SDK-Verbindung gebunden und dürfen nicht in einem anderen Client wiederverwendet werden
$lease = $azureMl->acquireFamily(new AzureMlAcquireFamilyRequest(
registry: AzureMlRegistry::AzureMl,
name: $latest->name,
));
try {
$download = $azureMl->download(new AzureMlDownloadRequest(
requestId: 'download-1',
registry: AzureMlRegistry::AzureMl,
name: $latest->name,
version: $latest->version,
destination: 'models/phi/'.$latest->version,
leaseId: $lease->leaseId,
));
} finally {
$azureMl->releaseFamily(new AzureMlReleaseFamilyRequest(
leaseId: $lease->leaseId,
registry: AzureMlRegistry::AzureMl,
name: $latest->name,
));
}
// download() wartet bis zum Abschluss. Fortschrittsabfrage und Abbruch während der Verarbeitung
// erfolgen z. B. aus einer anderen Fiber mit demselben $azureMl derselben Verbindung
// $status = $azureMl->status(new AzureMlStatusRequest(requestId: 'download-1'));
// $cancelled = $azureMl->cancel(new AzureMlCancelRequest(requestId: 'download-1'));
// Der bool von cancel() zeigt an, dass die Abbruchanfrage angenommen wurde; den Abschluss der Bereinigung prüfen Sie über download()
// Inaktive Versionen löschen
$azureMl->discard(new AzureMlDiscardRequest(destination: 'models/phi/previous-version'));
// Die Typen von resolve() und download() haben kein eigenes Feld für signierte URLs
// download() hat standardmäßig kein Timeout. Um Sekunden anzugeben, übergeben Sie sie als zweites Argument
// Die Typen von resolve() und download() haben keine eigenen Felder für signierte URLs
// download() hat standardmäßig kein Timeout. Um Sekunden anzugeben, übergeben Sie sie als zweites Argument