Processing

Please wait...

Settings

Settings

Goto Application

1. WO2023283767 - TASK SCHEDULING METHOD AND APPARATUS

Publication Number WO/2023/283767
Publication Date 19.01.2023
International Application No. PCT/CN2021/105779
International Filing Date 12.07.2021
IPC
G06F 9/50 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
FELECTRIC DIGITAL DATA PROCESSING
9Arrangements for program control, e.g. control units
06using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
46Multiprogramming arrangements
50Allocation of resources, e.g. of the central processing unit
Applicants
  • 华为技术有限公司 HUAWEI TECHNOLOGIES CO., LTD. [CN]/[CN]
Inventors
  • 朱湘毅 ZHU, Xiangyi
Agents
  • 北京同达信恒知识产权代理有限公司 TDIP & PARTNERS
Priority Data
Publication Language Chinese (zh)
Filing Language Chinese (ZH)
Designated States
Title
(EN) TASK SCHEDULING METHOD AND APPARATUS
(FR) PROCÉDÉ ET APPAREIL DE PLANIFICATION DE TÂCHES
(ZH) 一种任务调度方法和装置
Abstract
(EN) The present application discloses a task scheduling method and apparatus. An accelerator receives a plurality of first task flows, wherein the priority type of the plurality of first task flows is a first priority, and the first priority comprises a first sub-priority and a second sub-priority; according to the sub-priorities of each first task flow among the plurality of first task flows, a time slice is allocated for each first task flow, wherein the first sub-priority is higher than the second sub-priority, and the time slice allocated for the first task flow corresponding to the first sub-priority is larger than the time slice allocated for the first task flow corresponding to the second sub-priority; and AI tasks of all the first task flows among the plurality of first task flows are scheduled on the basis of time slice rotation. Thus, first task flows of different sub-priorities may take turns occupying the accelerator, and the first task flow of a higher sub-priority occupies more of the running time of the accelerator, thereby taking into account scheduling requirements for different AI tasks, and increasing the computing resource utilization of the accelerator.
(FR) La présente demande divulgue un procédé et un appareil de planification de tâches. Un accélérateur reçoit une pluralité de premiers flux de tâches, le type de priorité de la pluralité de premiers flux de tâches étant une première priorité, et la première priorité comprenant une première sous-priorité et une seconde sous-priorité ; en fonction des sous-priorités de chaque premier flux de tâches parmi la pluralité de premiers flux de tâches, une tranche de temps est attribuée pour chaque premier flux de tâches, la première sous-priorité étant supérieure à la seconde sous-priorité, et la tranche de temps attribuée au premier flux de tâches correspondant à la première sous-priorité étant plus grande que la tranche de temps attribuée pour le premier flux de tâches correspondant à la seconde sous-priorité ; et les tâches d'IA de tous les premiers flux de tâches parmi la pluralité de premiers flux de tâches sont planifiées sur la base d'une rotation de tranches de temps. Ainsi, des premiers flux de tâches de différentes sous-priorités peuvent occuper l'accélérateur à tour de rôle, et le premier flux de tâches d'une sous-priorité plus élevée occupe plus du temps de fonctionnement de l'accélérateur, ce qui permet de prendre en compte les exigences de planification pour différentes tâches d'IA, et d'augmenter l'utilisation de ressources informatiques de l'accélérateur.
(ZH) 本申请公开了一种任务调度方法和装置。加速器接收多个第一任务流,多个第一任务流的优先级类型为第一优先级,第一优先级包括第一子优先级和第二子优先级;根据多个第一任务流中每个第一任务流的子优先级为每个第一任务流分配时间片,其中第一子优先级高于第二子优先级,第一子优先级对应的第一任务流被分配的时间片大于第二子优先级对应的第一任务流被分配的时间片;基于时间片轮转的方式对多个第一任务流中所有第一任务流的AI任务进行调度。如此,可以使得不同子优先级的第一任务流轮流占用加速器,且子优先级越高的第一任务流占用加速器运行的时间越多,进而兼顾不同AI任务的调度需求,提高加速器的计算资源利用率。
Latest bibliographic data on file with the International Bureau