首先，我们需要明确一点，canvas坐标系和世界坐标系是不同的，不能直接将canvas坐标系中的坐标转换为世界坐标系。
然而，我们可以将canvas坐标系中的坐标转换为相对于视口的坐标。视口可以理解为一个屏幕大小的矩形区域，在这个区域内，我们可以认为坐标是相对于视口中心的。
在matrix.compose方法中，可以将一个转换矩阵和一个平移矩阵相乘，得到一个可以将坐标从一个坐标系转换到另一个坐标系的变换矩阵。
下面是一个将canvas坐标系中的坐标转换为相对于视口的坐标的示例代码：

// 获取canvas元素
var canvas = document.getElementById('myCanvas');

// 获取视口
var viewport = canvas.getBoundingClientRect();

// 创建一个转换矩阵，相对于视口中心进行转换
var viewMatrix = mat3.create();
viewMatrix.translate(viewport.left, viewport.top);

// 创建一个平移矩阵，将canvas坐标系中的坐标平移到视口中心
var canvasMatrix = mat3.create();
canvasMatrix.translate(canvas.width / 2, canvas.height / 2);

// 将坐标从canvas坐标系转换到视口坐标系
var worldMatrix = mat3.multiply(viewMatrix, canvasMatrix);

// 获取世界坐标
var worldPoint = new Vec3(worldMatrix[12], worldMatrix[13], worldMatrix[14]);

需要注意的是，这只是一个示例代码，具体的实现方式还需要根据具体的需求进行调整。另外，如果要将世界坐标转换为canvas坐标，可以使用matrix.invert方法将世界坐标矩阵进行逆矩阵变换，然后再使用相对于视口的坐标转换矩阵将其转换回canvas坐标系。