 Guillaume Wenzek
|
a768cdf55f
Unity inc (#159)
|
пре 1 година |
|
Guillaume Wenzek
|
353a001d64
fix merge
|
пре 1 година |
|
Guillaume Wenzek
|
f2ef995b95
format/isort
|
пре 1 година |
|
Guillaume Wenzek
|
20fea08676
fairseq2 churn ebf637dc52b42850e086eebe2d60a45a89881aad
|
пре 1 година |
|
Guillaume Wenzek
|
2f71737adc
skip tests that can't run locally
|
пре 1 година |
|
Guillaume Wenzek
|
d5b035f230
fix PositionalEmbedding with cache
|
пре 1 година |
|
Guillaume Wenzek
|
ddff1a0644
add failing test: test_PositionalEmbedding_forward_with_cache
|
пре 1 година |
|
Guillaume Wenzek
|
8c074387a9
s2tt generate the sample if needed
|
пре 1 година |
|
Guillaume Wenzek
|
a771adc782
nicer ctypes_utils
|
пре 1 година |
|
Guillaume Wenzek
|
f6d810543d
fix incremental decoding !
|
пре 1 година |
|
Guillaume Wenzek
|
522b97234e
WIP: simple failing test case
|
пре 1 година |
|
Guillaume Wenzek
|
cc23e2b1c7
prepare tests for flash_attn
|
пре 1 година |
|
Guillaume Wenzek
|
18c919b0b8
update flash_attn tests
|
пре 1 година |
|
Guillaume Wenzek
|
eb7810b81f
force little-endian
|
пре 1 година |
 Ning
|
d9061b89b3
Update test_unity_cpp.py
|
пре 1 година |
|
Ning
|
1589c529bf
unity.cpp speech_encoder_frontend+speech_encoder+adaptor (#81)
|
пре 1 година |
|
Guillaume Wenzek
|
e38442d1f0
rename mask to attn_mask in MultiheadAttention_forward
|
пре 1 година |
|
Guillaume Wenzek
|
6fbb465f2b
generate_sequence return full results
|
пре 1 година |
|
Guillaume Wenzek
|
f49763de86
fix beam size and scores
|
пре 1 година |
|
Guillaume Wenzek
|
c28db8c8ac
wip beam-size=2
|
пре 1 година |
|
Guillaume Wenzek
|
3d69d4975f
batching -> StandardTransformerDecoder
|
пре 1 година |
|
Guillaume Wenzek
|
b24dbe3030
batching -> TransformerEmbeddingFrontend_forward
|
пре 1 година |
|
Guillaume Wenzek
|
86993cbd00
fix StandardTransformerEncoder
|
пре 1 година |
|
Guillaume Wenzek
|
28ed039370
fix MultiheadAttention_forward
|
пре 1 година |
|
Guillaume Wenzek
|
81cdf80eb9
WIP: MultiheadAttention_forward
|
пре 1 година |
|
Guillaume Wenzek
|
f2b5007277
start testing with batch size > 1
|
пре 1 година |
|
Guillaume Wenzek
|
eb80195345
use ggml_diag_mask_inf
|
пре 1 година |
|
Guillaume Wenzek
|
88b0690a72
split tests files
|
пре 1 година |
|
Guillaume Wenzek
|
bfbafd9603
fix generation with beam_size=1
|
пре 1 година |
|
Guillaume Wenzek
|
45f986055a
add naive tweaking of lprobs
|
пре 1 година |
