[Question]: 想问下AquilaDecoderLayer里的传参为什么是float的？这样是用的float类型的attention

### Description

https://github.com/FlagAI-Open/FlagAI/blob/master/flagai/model/aquila2/modeling_aquila.py#L421
想问下函数参数这里写的是float的原因是啥，为什么不能是half的？
如果想用half的attention该怎么修改，尝试在这里改输入的数据类型，后面会有数据类型不匹配的报错。

### Alternatives

_No response_