作者您好!想问下您提到预训练使用两张A100训练约30小时,不知道整个训练对显存的要求大概是多少?我用两张RTX4090能否完成预训练?会不会超出显存?
作者您好!想问下您提到预训练使用两张A100训练约30小时,不知道整个训练对显存的要求大概是多少?我用两张RTX4090能否完成预训练?会不会超出显存?