Ассемблер

[uncle]

Саму mbcopy2 не вижу смысла писать на ассемблере. Как вместе задействовать SQ не представляю, вместо можно попробовать. По моим оценкам текущая реализация должна давать чуть больше 400 512x512 фреймов в секунду. Для практических задач этого достаточно и вразы быстрее конвертации в текстуру. Но, конечно это не предел шины памяти. И ради спортивного интереса можно поиграться. Описание формата макроблоков YUV конвертера на 215 странице упомянутого тобой документа. Для DMA трансфера через YUV конвертер можешь использовать стандартный косовский механизм. Для этого:

static vuint32 * const tareg = (vuint32 *)0xa05f8000;

// YUVCONV registers
#define TA_YUV_TEX_BASE 0x148/4
#define TA_YUV_TEX_CTRL 0x14c/4
#define TA_YUV_TEX_CNT 0x150/4

tareg[TA_YUV_TEX_BASE] = dest_addr; // адрес в текстурной памяти
tareg[TA_YUV_TEX_CTRL] = ((w / 16 - 1) << 8) | (h / 16 - 1); // w и h высота и ширина соответственно
val = tareg[TA_YUV_TEX_CTRL]; // просто прочитать

pvr_dma_transfer(src, 0x800000, count, PVR_DMA_TA, block, callback, cbdata); // src - адрес где размещены макроблоки

Про артефакты - непосредственно перед DMA передачей часть данных может находится в линейках кэша процессора для которых еще не было write back. И соответственно в RAM лежат не актуальные данные. DMA операции не когерентны с процессорным кэшем и при трансфере в текстурную память уйдет этот мусорок. Все это относится к реальному железу, на эмуляторах не проявится.

Попробовать стоит. Ускорение по сравнению с конвертацией в текстуру значительное.