all those things are structs, dctors are available for customization. 4344 44 JOB SYSTEM • Scheduler + User defined workload • Optimize for CPU throughput Okay, finally, we are ready to talk about which is spared time frames on the CPU timeline. 4445 COROUTINE JOB SYSTEM isa::await_suspend Scheduler Worker Worker Worker Worker Job Queue Job Queue Job Queue Job coroutine_handle Job::Job coroutine_handle Job::Job final_suspend And voila! This is our system. 4546 isa::await_suspend Scheduler Worker Worker Worker Worker Job Queue Job Queue Job Queue Job coroutine_handle Job::Job

() { IOAwaitable awaitable = async_io(scheduler, ...); auto data = co_await awaitable; co_return IoResult :: from_io_data(data ); }42/55 Where does the scheduler come from? Async inner_function async_io(scheduler , ...); /* ... */ } int main () { Scheduler scheduler; spawn_task(scheduler); }42/55 Where does the scheduler come from? Async inner_function (Scheduler& scheduler) { auto auto data = co_await async_io(scheduler , ...); /* ... */ } int main () { Scheduler scheduler; spawn_task(scheduler ); }43/55 Passing data from the outside in template struct Async { /*

What is Task Graph-based Programming System (TGPS) Code A B C D B A C D Scheduler 7Why TGPS 1 Scheduler sched; 2 task_a = sched.emplace([](&){ 3 // Code block A; 4 }); 5 task_b = sched decomposition strategies 8Existing TGPSs on Heterogenous Computing - Challenge A C D B! B" 1 Scheduler sched; 2 task_a = sched.emplace([](&){ 3 // Code block A; 4 }); 5 task_b = sched.emplace([](&){ suspension point behavior co_await std::suspend_always() Symmetric coroutine transfer Implement a scheduler 22A new heterogeneous TGPS using C++ Coroutine? Abstract away C++ Coroutine detailsA new heterogeneous

STD::EXECUTION Proposes: • A set of concepts that represent: • A handle to a compute resource (aka, scheduler) • A unit of lazy async work (aka, sender) • A completion handler (aka, receiver) • A small, compute_intensive(int); int main() { unifex::static_thread_pool pool{8}; ex::scheduler auto sched = pool.get_scheduler(); ex::sender auto work = ex::when_all( ex::then(ex::schedule(sched), compute_intensive(int); int main() { unifex::static_thread_pool pool{8}; ex::scheduler auto sched = pool.get_scheduler(); ex::sender auto work = ex::when_all( ex::then(ex::schedule(sched),

return process_file(std::move(file)); }); auto stats = co_await unifex::on( pool.get_scheduler(), unifex::when_all_range(jobs.begin(), jobs.end())); for (std::size_t i = 0; i < stats.size(); return process_file(std::move(file)); }); auto stats = co_await unifex::on( pool.get_scheduler(), unifex::when_all_range(jobs.begin(), jobs.end())); for (std::size_t i = 0; i < stats.size(); return process_file(std::move(file)); }); auto stats = co_await unifex::on( pool.get_scheduler(), unifex::when_all_range(jobs.begin(), jobs.end())); for (std::size_t i = 0; i < stats.size();

offer parallelism, but lack control over execution hardware ("where"). ● P2300 introduces the "scheduler" concept, representing execution contexts, addressing the "where." ● The integration of these proposes extending C++ algorithms to accept a "policy-aware scheduler." ● This scheduler combines an execution policy ("how") and a scheduler ("where"). ● The execute_on function facilitates the creation algorithms for optimal performance. ● Key Features: ● Combining scheduler and policy. ● Minimal, incremental API changes.Combining Scheduler with Policy Why Use Schedulers? ● Schedulers represent execution

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3367 14.3.13 TiFlash MinTSO Scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3370 14.3.14 TiFlash · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6729 17.15.1 Scheduler· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · @okJiang 86 • Rename scatter-range to scatter-range-scheduler in pd-ctl commands #8379 @okJiang • Add conflict detection for grant-hot-leader-scheduler #4903 @lhy1024 • TiFlash • Optimize the execution

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3351 14.3.13 TiFlash MinTSO Scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3354 14.3.14 TiFlash · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6705 17.12.1 scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · @okJiang 81 • Rename scatter-range to scatter-range-scheduler in pd-ctl commands #8379 @okJiang • Add conflict detection for grant-hot-leader-scheduler #4903 @lhy1024 • TiFlash • Optimize the execution

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3321 14.3.13 TiFlash MinTSO Scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3324 14.3.14 TiFlash · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6606 17.12.1 scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · indexes #53004 @lance6716 • PD • Support modifying the batch configuration of the evict-leader-scheduler via pd-ctl to accelerate the leader eviction process #8265 @rleungx • Add the store_id monitoring

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3313 14.3.13 TiFlash MinTSO Scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3316 14.3.14 TiFlash · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6549 17.12.1 scheduler · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · the I/O Scheduler of the storage media. • For the high-speed SSD storage, the kernel’s default I/O scheduling operations might cause performance loss. It is recommended to set the I/O Scheduler to first-