HM中再增加一路自己的entropy coder

时间:2023-11-19 11:17:44

compressSlice 中一开始的entropy coder 设置:

// set entropy coder

if( m_pcCfg->getUseSBACRD() )

{

m_pcSbacCoder->init( m_pcBinCABAC );

m_pcEntropyCoder->setEntropyCoder ( m_pcSbacCoder, pcSlice );

m_pcEntropyCoder->resetEntropy ();

m_pppcRDSbacCoder[0][CI_CURR_BEST]->load(m_pcSbacCoder);

pppcRDSbacCoder = (TEncBinCABAC *) m_pppcRDSbacCoder[0][CI_CURR_BEST]->getEncBinIf();

pppcRDSbacCoder->setBinCountingEnableFlag( false );

pppcRDSbacCoder->setBinsCoded( 0 );

}

entropy coder 设为m_pcSbacCoder ,TEncBinCABAC 指向m_pcBinCABAC。

m_pppcRDSbacCoder[0][CI_CURR_BEST] 复制 m_pcSbacCoder的初始ContextModel和TEncBinCABAC状态。

pppcRDSbacCoder 指向m_pppcRDSbacCoder[0][CI_CURR_BEST]的TEncBinCABAC

为dual layer的字典编码再添加一个自己的entropy coder(TencSbac* m_pcSbacCoderDL):

TencSbac三个私有成员,ContextModel和TEncBinCABAC状态。TencBinIf 为 TEncBinCABAC,TComBitIf

为TComBitCounter

class TEncSbac : public TencEntropyIf

{

protected:

TComBitIf* m_pcBitIf;

TComSlice* m_pcSlice;

TEncBinIf* m_pcBinIf;

}

dual layer的m_pcSbacCoderDL 的初始设置:

TEncBinCABAC *pppcRDSbacCoderDL = NULL;

{

m_pcSbacCoderDL->init( m_pcBinCABAC );

m_pcEntropyCoder->setEntropyCoder ( m_pcSbacCoderDL, pcSlice );

m_pcEntropyCoder->resetEntropy ();

//m_pcSbacCoderDL->loadContexts( m_pcSbacCoder);

pppcRDSbacCoderDL = (TEncBinCABAC *) m_pcSbacCoderDL->getEncBinIf();

pppcRDSbacCoderDL->setBinCountingEnableFlag( false );

pppcRDSbacCoderDL->setBinsCoded( 0 );

}

dual layer字典编码前的设置:

m_pcEntropyCoder->setEntropyCoder ( m_pcSbacCoderDL, pcSlice );         m_pcEntropyCoder->setBitstream( &pcBitCounters[uiSubStrm] );

m_pcCuEncoder->setBitCounter( &pcBitCounters[uiSubStrm] );

m_pcBitCounter = &pcBitCounters[uiSubStrm];

pppcRDSbacCoderDL->setBinCountingEnableFlag( true );

m_pcBitCounter->resetBits();

pppcRDSbacCoderDL->setBinsCoded( 0 );

可以共用TcomBitCounter pcBitCounters[uiSubStrm],但是ContextModel和TEncBinCABAC要有自己的。

DUAL_CODER 自身的熵编码设置就有个小bug:

{

m_pTComDictEncoder->DictCompressCu(uiCUAddr,cuCnt-1, true, pcSlice);

m_pcEntropyCoder->setBitstream( &pcBitCounters[uiSubStrm] );

m_pcCuEncoder->setBitCounter( &pcBitCounters[uiSubStrm] );

m_pcBitCounter = &pcBitCounters[uiSubStrm];

pppcRDSbacCoder->setBinCountingEnableFlag( true );

m_pcBitCounter->resetBits();

pppcRDSbacCoder->setBinsCoded( 0 );

}

compressSlice一开始初始化的EntropyCoder是 m_pcSbacCoder, m_pcEntropyCoder->setEntropyCoder ( m_pcSbacCoder, pcSlice );

这里没有设置EntropyCoder,所以第一个CU字典编码使用的是m_pcSbacCoder

但是后面HM混合编码了一个CU之后,设置了EntropyCoder是m_pppcRDSbacCoder[0][CI_CURR_BEST],从第二个CU开始这里就使用的m_pppcRDSbacCoder[0][CI_CURR_BEST]。(不过第一个CU时m_pppcRDSbacCoder[0][CI_CURR_BEST] load自m_pcSbacCoder,但pppcRDSbacCoder指向的是m_pppcRDSbacCoder[0][CI_CURR_BEST]的TEncBinCABAC.)

Bug fix:最好加上m_pcEntropyCoder->setEntropyCoder (m_pppcRDSbacCoder[0][CI_CURR_BEST], pcSlice );