线程数与多核CPU的关系,VMware中核数的设置

时间:2024-01-21 10:28:18
  • CPU数,核数,processor数的概念
    • CPU
      • 独立的*处理单元,体现在主板上就是有多少个CPU槽位
    • CPU cores
      • 在每一个CPU上,都可能有多核(core,每个核中都有独立的ALUFPUCache等组件,可以理解为CPU的物理核数。(我们常说48线程中的核)
    • processor
      • 每一个物理核可以模拟出多个逻辑核,"超线程"技术就是通过采用特殊的指令,把逻辑内核模拟为物理超线程,这样的核就是processor.是一个处理数据的通道,流水线。可以理解为逻辑核(比如我们常说的48线程中的线程)
    • 查看计算机的processor数(虚拟核数)
      • linux中使用top 然后输入1,从CPU0CPUn显示的就是CPU的虚拟核数(processor

    • 查看物理核数
      • linux中输入 cat /proc/cpuinfo 就可以看到CPU cores processor的概念

       

  • 关于进程和线程
    • 进程
      • CPU调度和分配的基本单位
    • 线程
      • 是操作系统进行资源(包括CPU,内存,磁盘IO)分配的最小单位
    • 关系
      • 打开微信,浏览器都是一个进程,一个进程中可能有多个子任务,比如微信接受信息,发送信息,这些子任务都是线程
      • 进程之间无法共享资源,进行通信。但是线程之间可以通信,共享进程的资源
      • 开启一个进程,就是打来一个软件,消耗的资源多。但是线程相较进程就会节省很多资源。
    • 线程之间的切换
      • 分时
        • 将时间平均分配,各个线程之间轮流使用
      • 抢占
        • 优先级高的线程抢到资源的概率大
    • 线程开销
      • 上下文切换,保存当前线程的执行环境,并恢复要执行线程的环境。
      • 线程创建和消亡的开销
      • 线程需要保存维持线程本地栈,会消耗内存
      • 当线程多到一定的程度时,就会拖慢系统性能,因为多线程的切换需要资源。所以在线程数应该在性能瓶颈的90%

           

  • 多核下线程数量的选择
    • Master-worker模式
      • 针对多任务,我们通常采用Master-worker模型。Master负责分配任务,worker负责执行任务。如果Worker挂掉,就要Master负责重新调度。Hadoop集群即使这样NameNode管理DataNode.这是由线程切换到节点。

           

    • 计算密集型
      • 程序主要是复杂的逻辑判断和复杂的运算。比如我们常见的机器学习之类的。
      • CPU利用里高,不应开太多的线程。因为线程太多会因为线程的上下文切换浪费资源。
      • 计算密集型的任务同时进行的数量应当等于CPU的核心数(processo数,虚拟内核也算)
    • IO密集型
      • 程序主要是IO操作,比如磁盘IO和网络IO。比如HadoopMR
      • 因为IO操作会阻塞线程,CPU大量的时间在等待IO操作的完成,因此CPU的利用率不高,可以多开线程,当IO阻塞时就切换到其他就绪的线程,提高CPU的利用率
      • 如果磁盘IO的性能超过了总线的能力,此时的瓶颈就是IO而不再是CPU,线程开的多也没有意义。因为总线被打满了,数据过不来。

           

  • 关于VMware虚拟机CPU核数的设置
    • 机器设置:E5-2660 V2 两颗,每颗10核,20线程
    • VMware设置界面

    • 查看VMware中的各种情况(注意:这里显示的都是ID数,不是个数)
      • CPU个数 cat /proc/cpuinfo | grep "physical id"
      • CPU core cat /proc/cpuinfo | grep "core id"
      • CPU processor cat /proc/cpuinfo | grep "processor"
    • 对比

设置

vmCPU个数

vmCPU core

vmCPU processor

结论

处理器数量:1

每个处理器的内核数量:4

1

4

4

1U44线程

处理器数量:2

每个处理器的内核数量:2

2

2

4

2U12线程

处理器数量:4

每个处理器的内核数量:2

4

2

8

4U22线程

可见:VMware中的:处理器数量(P实际代表的是虚拟机的CPU个数

每个处理器的内核数量(C实际代表的是虚拟机CPUcore

  • VMware设置内核数量的最佳实践
    • 虚拟机的CPU数设置应该是小于物理机的数量。处理器数量*每个处理器内核数量<物理机的processor数量
    • 如果虚拟机的processor数大于物理机的processor数,虚拟机化管理系统首先按照时间片轮流调度一遍,然后如果还有剩余的物理CPU资源,就分给需要计算的虚拟CPU