用cnn做回归,如何调整y的分布?

各位老师、同学,走过路过请顺手帮忙。
我现在做的问题是要基于图像做一个回归问题,我选用的结构是把resent的最后一个branch层及后面的fc层整个摘掉,再接上三层conv,relu做activation,最后套上两个fc层,仍然用relu做activation,mse作为loss,训练了几轮之后,loss减到了一个还可以的水平上。
但是,当我把结果按照y的percentile分组检查之后,发现只有y在一个值域内(0%-25%)时,模型的预测值才上大体可信;在其他值域上,y的预测值都有较为明显的bias,同时var也比较大。
 
基于此我想问
1. 我只想到一个方法,给loss按值域加权,但我没想好这个权重要怎么加(给各部分分别加多少),求教各位
2. 我也想知道是不是还有其他方法解决这个问题?
3. 很显然我现在这个模型很可能是欠拟合的,但是继续训练的话就开始呈现train loss和 val loss的分离,也就是过拟合了,我还有什么办法提高模型表现呢?
image.jpg

xian_ren

赞同来自:

是我话没说清楚吗,为什么没人理我( ̄∇ ̄)

要回复问题请先登录注册