blob: e5e585ca96d1f8ac5617f03647cc6aaf19a4a9de (plain)

ofs	hex dump	ascii
0000	08 0a 12 07 70 79 74 6f 72 63 68 1a 0b 32 2e 39 2e 31 2b 63 75 31 32 38 3a dd b0 2f 0a 9a 05 0a	....pytorch..2.9.1+cu128:../....
0020	09 69 6e 70 75 74 5f 69 64 73 12 05 76 61 6c 5f 30 1a 0c 6e 6f 64 65 5f 53 68 61 70 65 5f 30 22	.input_ids..val_0..node_Shape_0"
0040	05 53 68 61 70 65 2a 0a 0a 03 65 6e 64 18 01 a0 01 02 2a 0c 0a 05 73 74 61 72 74 18 00 a0 01 02	.Shape*...end.....*...start.....
0060	4a 84 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 77 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65	J....namespace.w_empty_nn_module
0080	5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 3a 20 5f 65 6d 70 74	_stack_from_metadata_hook:._empt
00a0	79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f	y_nn_module_stack_from_metadata_
00c0	68 6f 6f 6b 2f 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 3a 20 61 74 65 6e 2e 73 79 6d 5f 73	hook/sym_size_int_45:.aten.sym_s
00e0	69 7a 65 2e 69 6e 74 4a 64 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	ize.intJd..pkg.torch.onnx.class_
0100	68 69 65 72 61 72 63 68 79 12 42 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74	hierarchy.B['_empty_nn_module_st
0120	61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c 20 27 61 74 65 6e 2e 73	ack_from_metadata_hook',.'aten.s
0140	79 6d 5f 73 69 7a 65 2e 69 6e 74 27 5d 4a 94 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ym_size.int']J....pkg.torch.onnx
0160	2e 66 78 5f 6e 6f 64 65 12 7a 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 20 3a 20 5b 6e 75	.fx_node.z%sym_size_int_45.:.[nu
0180	6d 5f 75 73 65 72 73 3d 32 35 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	m_users=25].=.call_function[targ
01a0	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 79 6d 5f 73 69 7a 65 2e 69 6e 74 5d 28	et=torch.ops.aten.sym_size.int](
01c0	61 72 67 73 20 3d 20 28 25 69 6e 70 75 74 5f 69 64 73 2c 20 30 29 2c 20 6b 77 61 72 67 73 20 3d	args.=.(%input_ids,.0),.kwargs.=
01e0	20 7b 7d 29 4a 5e 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	.{})J^..pkg.torch.onnx.name_scop
0200	65 73 12 40 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f	es.@['_empty_nn_module_stack_fro
0220	6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c 20 27 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f	m_metadata_hook',.'sym_size_int_
0240	34 35 27 5d 4a 73 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	45']Js..pkg.torch.onnx.stack_tra
0260	63 65 12 55 46 69 6c 65 20 22 74 6f 72 63 68 2f 66 78 2f 70 61 73 73 65 73 2f 72 75 6e 74 69 6d	ce.UFile."torch/fx/passes/runtim
0280	65 5f 61 73 73 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 32 34 2c 20 69 6e 20 69 6e 73 65 72 74	e_assert.py",.line.24,.in.insert
02a0	5f 64 65 66 65 72 72 65 64 5f 72 75 6e 74 69 6d 65 5f 61 73 73 65 72 74 73 0a a3 05 0a 0e 61 74	_deferred_runtime_asserts.....at
02c0	74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 12 05 76 61 6c 5f 31 1a 0c 6e 6f 64 65 5f 53 68 61 70 65 5f	tention_mask..val_1..node_Shape_
02e0	31 22 05 53 68 61 70 65 2a 0a 0a 03 65 6e 64 18 01 a0 01 02 2a 0c 0a 05 73 74 61 72 74 18 00 a0	1".Shape*...end.....*...start...
0300	01 02 4a 84 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 77 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75	..J....namespace.w_empty_nn_modu
0320	6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 3a 20 5f 65 6d	le_stack_from_metadata_hook:._em
0340	70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74	pty_nn_module_stack_from_metadat
0360	61 5f 68 6f 6f 6b 2f 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 37 3a 20 61 74 65 6e 2e 73 79 6d	a_hook/sym_size_int_47:.aten.sym
0380	5f 73 69 7a 65 2e 69 6e 74 4a 64 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	_size.intJd..pkg.torch.onnx.clas
03a0	73 5f 68 69 65 72 61 72 63 68 79 12 42 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f	s_hierarchy.B['_empty_nn_module_
03c0	73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c 20 27 61 74 65 6e	stack_from_metadata_hook',.'aten
03e0	2e 73 79 6d 5f 73 69 7a 65 2e 69 6e 74 27 5d 4a 98 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.sym_size.int']J....pkg.torch.on
0400	6e 78 2e 66 78 5f 6e 6f 64 65 12 7e 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 37 20 3a 20 5b	nx.fx_node.~%sym_size_int_47.:.[
0420	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
0440	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 79 6d 5f 73 69 7a 65 2e 69 6e 74 5d	get=torch.ops.aten.sym_size.int]
0460	28 61 72 67 73 20 3d 20 28 25 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 2c 20 30 29 2c 20 6b 77	(args.=.(%attention_mask,.0),.kw
0480	61 72 67 73 20 3d 20 7b 7d 29 4a 5e 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	args.=.{})J^..pkg.torch.onnx.nam
04a0	65 5f 73 63 6f 70 65 73 12 40 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74 61	e_scopes.@['_empty_nn_module_sta
04c0	63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c 20 27 73 79 6d 5f 73 69 7a	ck_from_metadata_hook',.'sym_siz
04e0	65 5f 69 6e 74 5f 34 37 27 5d 4a 73 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	e_int_47']Js..pkg.torch.onnx.sta
0500	63 6b 5f 74 72 61 63 65 12 55 46 69 6c 65 20 22 74 6f 72 63 68 2f 66 78 2f 70 61 73 73 65 73 2f	ck_trace.UFile."torch/fx/passes/
0520	72 75 6e 74 69 6d 65 5f 61 73 73 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 32 34 2c 20 69 6e 20	runtime_assert.py",.line.24,.in.
0540	69 6e 73 65 72 74 5f 64 65 66 65 72 72 65 64 5f 72 75 6e 74 69 6d 65 5f 61 73 73 65 72 74 73 0a	insert_deferred_runtime_asserts.
0560	a4 05 0a 0e 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 12 05 76 61 6c 5f 32 1a 0c 6e 6f 64 65 5f	....attention_mask..val_2..node_
0580	53 68 61 70 65 5f 32 22 05 53 68 61 70 65 2a 0a 0a 03 65 6e 64 18 02 a0 01 02 2a 0c 0a 05 73 74	Shape_2".Shape*...end.....*...st
05a0	61 72 74 18 01 a0 01 02 4a 84 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 77 5f 65 6d 70 74 79 5f 6e	art.....J....namespace.w_empty_n
05c0	6e 5f 6d 6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f	n_module_stack_from_metadata_hoo
05e0	6b 3a 20 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d	k:._empty_nn_module_stack_from_m
0600	65 74 61 64 61 74 61 5f 68 6f 6f 6b 2f 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 3a 20 61 74	etadata_hook/sym_size_int_48:.at
0620	65 6e 2e 73 79 6d 5f 73 69 7a 65 2e 69 6e 74 4a 64 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	en.sym_size.intJd..pkg.torch.onn
0640	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 42 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d	x.class_hierarchy.B['_empty_nn_m
0660	6f 64 75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c	odule_stack_from_metadata_hook',
0680	20 27 61 74 65 6e 2e 73 79 6d 5f 73 69 7a 65 2e 69 6e 74 27 5d 4a 99 01 0a 16 70 6b 67 2e 74 6f	.'aten.sym_size.int']J....pkg.to
06a0	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 7f 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f	rch.onnx.fx_node..%sym_size_int_
06c0	34 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 30 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	48.:.[num_users=10].=.call_funct
06e0	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 79 6d 5f 73 69	ion[target=torch.ops.aten.sym_si
0700	7a 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 2c	ze.int](args.=.(%attention_mask,
0720	20 31 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 5e 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	.1),.kwargs.=.{})J^..pkg.torch.o
0740	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 40 5b 27 5f 65 6d 70 74 79 5f 6e 6e 5f 6d 6f 64	nnx.name_scopes.@['_empty_nn_mod
0760	75 6c 65 5f 73 74 61 63 6b 5f 66 72 6f 6d 5f 6d 65 74 61 64 61 74 61 5f 68 6f 6f 6b 27 2c 20 27	ule_stack_from_metadata_hook',.'
0780	73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 27 5d 4a 73 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	sym_size_int_48']Js..pkg.torch.o
07a0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 55 46 69 6c 65 20 22 74 6f 72 63 68 2f 66 78 2f	nnx.stack_trace.UFile."torch/fx/
07c0	70 61 73 73 65 73 2f 72 75 6e 74 69 6d 65 5f 61 73 73 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	passes/runtime_assert.py",.line.
07e0	32 34 2c 20 69 6e 20 69 6e 73 65 72 74 5f 64 65 66 65 72 72 65 64 5f 72 75 6e 74 69 6d 65 5f 61	24,.in.insert_deferred_runtime_a
0800	73 73 65 72 74 73 0a de 08 0a 1e 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e	sserts.....bert.embeddings.token
0820	5f 74 79 70 65 5f 69 64 73 0a 06 76 61 6c 5f 31 39 0a 05 76 61 6c 5f 32 0a 06 76 61 6c 5f 31 30	_type_ids..val_19..val_2..val_10
0840	0a 06 76 61 6c 5f 31 30 12 07 73 6c 69 63 65 5f 31 1a 0c 6e 6f 64 65 5f 73 6c 69 63 65 5f 31 22	..val_10..slice_1..node_slice_1"
0860	05 53 6c 69 63 65 4a a3 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 95 01 3a 20 74 72 61 6e 73 66 6f	.SliceJ....namespace...:.transfo
0880	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
08a0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
08c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
08e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 73 6c 69 63 65 5f 31 3a 20 61 74 65 6e 2e	ng_bert.BertModel/slice_1:.aten.
0900	73 6c 69 63 65 2e 54 65 6e 73 6f 72 4a b1 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	slice.TensorJ....pkg.torch.onnx.
0920	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8e 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
0940	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
0960	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
0980	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
09a0	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65 6e 2e 73 6c 69 63 65 2e 54 65 6e 73 6f 72 27 5d	BertModel',.'aten.slice.Tensor']
09c0	4a bb 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 a0 01 25 73	J....pkg.torch.onnx.fx_node...%s
09e0	6c 69 63 65 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	lice_1.:.[num_users=1].=.call_fu
0a00	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 6c 69	nction[target=torch.ops.aten.sli
0a20	63 65 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 62 5f 62 65 72 74 5f 65 6d 62 65 64	ce.Tensor](args.=.(%b_bert_embed
0a40	64 69 6e 67 73 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 2c 20 31 2c 20 4e 6f 6e 65 2c 20 25	dings_token_type_ids,.1,.None,.%
0a60	73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 35	sym_size_int_48),.kwargs.=.{})J5
0a80	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 17 5b 27	..pkg.torch.onnx.name_scopes..['
0aa0	27 2c 20 27 62 65 72 74 27 2c 20 27 73 6c 69 63 65 5f 31 27 5d 4a af 03 0a 1a 70 6b 67 2e 74 6f	',.'bert',.'slice_1']J....pkg.to
0ac0	72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 90 03 46 69 6c 65 20 22 2f 68 6f	rch.onnx.stack_trace...File."/ho
0ae0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
0b00	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
0b20	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
0b40	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c	rt/modeling_bert.py",.line.1676,
0b60	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62	.in.forward.....outputs.=.self.b
0b80	65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ert(...File."/home/hsiangnianian
0ba0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
0bc0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
0be0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
0c00	2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 62	.py",.line.930,.in.forward.....b
0c20	75 66 66 65 72 65 64 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 20 3d 20 73 65 6c 66 2e 65 6d	uffered_token_type_ids.=.self.em
0c40	62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 5b 3a 2c 20 3a 73 65 71 5f	beddings.token_type_ids[:,.:seq_
0c60	6c 65 6e 67 74 68 5d 0a c2 08 0a 05 76 61 6c 5f 30 0a 05 76 61 6c 5f 32 12 06 76 61 6c 5f 31 35	length].....val_0..val_2..val_15
0c80	1a 0e 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 31 35 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73	..node_Concat_15".Concat*...axis
0ca0	18 00 a0 01 02 4a a4 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 96 01 3a 20 74 72 61 6e 73 66 6f 72	.....J....namespace...:.transfor
0cc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
0ce0	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20	ertForTokenClassification/bert:.
0d00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
0d20	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 65 78 70 61 6e 64 3a 20 61 74 65 6e 2e 65 78	g_bert.BertModel/expand:.aten.ex
0d40	70 61 6e 64 2e 64 65 66 61 75 6c 74 4a b3 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	pand.defaultJ....pkg.torch.onnx.
0d60	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 90 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
0d80	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
0da0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
0dc0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
0de0	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66 61 75 6c 74	BertModel',.'aten.expand.default
0e00	27 5d 4a ae 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 93 01	']J....pkg.torch.onnx.fx_node...
0e20	25 65 78 70 61 6e 64 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	%expand.:.[num_users=1].=.call_f
0e40	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 78	unction[target=torch.ops.aten.ex
0e60	70 61 6e 64 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 73 6c 69 63 65 5f 31 2c 20	pand.default](args.=.(%slice_1,.
0e80	5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74	[%sym_size_int_45,.%sym_size_int
0ea0	5f 34 38 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 34 0a 1a 70 6b 67 2e 74 6f 72 63 68	_48]),.kwargs.=.{})J4..pkg.torch
0ec0	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 16 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	.onnx.name_scopes..['',.'bert',.
0ee0	27 65 78 70 61 6e 64 27 5d 4a c0 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	'expand']J....pkg.torch.onnx.sta
0f00	63 6b 5f 74 72 61 63 65 12 a1 03 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
0f20	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
0f40	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
0f60	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
0f80	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
0fa0	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
0fc0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
0fe0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
1000	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
1020	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39	s/bert/modeling_bert.py",.line.9
1040	33 31 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 62 75 66 66 65 72 65 64 5f 74 6f 6b 65	31,.in.forward.....buffered_toke
1060	6e 5f 74 79 70 65 5f 69 64 73 5f 65 78 70 61 6e 64 65 64 20 3d 20 62 75 66 66 65 72 65 64 5f 74	n_type_ids_expanded.=.buffered_t
1080	6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 2e 65 78 70 61 6e 64 28 62 61 74 63 68 5f 73 69 7a 65 2c	oken_type_ids.expand(batch_size,
10a0	20 73 65 71 5f 6c 65 6e 67 74 68 29 0a b5 08 0a 07 73 6c 69 63 65 5f 31 0a 06 76 61 6c 5f 31 35	.seq_length).....slice_1..val_15
10c0	12 06 65 78 70 61 6e 64 1a 0b 6e 6f 64 65 5f 65 78 70 61 6e 64 22 06 45 78 70 61 6e 64 4a a4 01	..expand..node_expand".ExpandJ..
10e0	0a 09 6e 61 6d 65 73 70 61 63 65 12 96 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
1100	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
1120	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
1140	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
1160	65 72 74 4d 6f 64 65 6c 2f 65 78 70 61 6e 64 3a 20 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66	ertModel/expand:.aten.expand.def
1180	61 75 6c 74 4a b3 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
11a0	65 72 61 72 63 68 79 12 90 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
11c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
11e0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
1200	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
1220	6c 27 2c 20 27 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66 61 75 6c 74 27 5d 4a ae 01 0a 16 70	l',.'aten.expand.default']J....p
1240	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 93 01 25 65 78 70 61 6e 64 20	kg.torch.onnx.fx_node...%expand.
1260	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
1280	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66	target=torch.ops.aten.expand.def
12a0	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 73 6c 69 63 65 5f 31 2c 20 5b 25 73 79 6d 5f 73 69	ault](args.=.(%slice_1,.[%sym_si
12c0	7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 5d 29 2c 20 6b	ze_int_45,.%sym_size_int_48]),.k
12e0	77 61 72 67 73 20 3d 20 7b 7d 29 4a 34 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	wargs.=.{})J4..pkg.torch.onnx.na
1300	6d 65 5f 73 63 6f 70 65 73 12 16 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 65 78 70 61 6e 64 27	me_scopes..['',.'bert',.'expand'
1320	5d 4a c0 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
1340	12 a1 03 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
1360	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
1380	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
13a0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
13c0	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
13e0	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
1400	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
1420	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
1440	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
1460	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 31 2c 20 69 6e 20 66	odeling_bert.py",.line.931,.in.f
1480	6f 72 77 61 72 64 0a 20 20 20 20 62 75 66 66 65 72 65 64 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 69	orward.....buffered_token_type_i
14a0	64 73 5f 65 78 70 61 6e 64 65 64 20 3d 20 62 75 66 66 65 72 65 64 5f 74 6f 6b 65 6e 5f 74 79 70	ds_expanded.=.buffered_token_typ
14c0	65 5f 69 64 73 2e 65 78 70 61 6e 64 28 62 61 74 63 68 5f 73 69 7a 65 2c 20 73 65 71 5f 6c 65 6e	e_ids.expand(batch_size,.seq_len
14e0	67 74 68 29 0a c1 0b 0a 1c 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f	gth).....bert.embeddings.positio
1500	6e 5f 69 64 73 0a 06 76 61 6c 5f 31 39 0a 05 76 61 6c 5f 32 0a 06 76 61 6c 5f 31 30 0a 06 76 61	n_ids..val_19..val_2..val_10..va
1520	6c 5f 31 30 12 07 73 6c 69 63 65 5f 32 1a 0c 6e 6f 64 65 5f 73 6c 69 63 65 5f 32 22 05 53 6c 69	l_10..slice_2..node_slice_2".Sli
1540	63 65 4a ea 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 dc 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ceJ....namespace...:.transformer
1560	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
1580	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
15a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
15c0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 3a 20 74	ert.BertModel/bert.embeddings:.t
15e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
1600	5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 2f 73 6c 69 63 65 5f 32 3a 20 61 74	_bert.BertEmbeddings/slice_2:.at
1620	65 6e 2e 73 6c 69 63 65 2e 54 65 6e 73 6f 72 4a ea 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	en.slice.TensorJ....pkg.torch.on
1640	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 c7 01 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
1660	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1680	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
16a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
16c0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
16e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64	els.bert.modeling_bert.BertEmbed
1700	64 69 6e 67 73 27 2c 20 27 61 74 65 6e 2e 73 6c 69 63 65 2e 54 65 6e 73 6f 72 27 5d 4a b6 01 0a	dings',.'aten.slice.Tensor']J...
1720	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9b 01 25 73 6c 69 63 65	.pkg.torch.onnx.fx_node...%slice
1740	5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_2.:.[num_users=1].=.call_functi
1760	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 6c 69 63 65 2e 54	on[target=torch.ops.aten.slice.T
1780	65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 62 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67	ensor](args.=.(%b_bert_embedding
17a0	73 5f 70 6f 73 69 74 69 6f 6e 5f 69 64 73 2c 20 31 2c 20 30 2c 20 25 73 79 6d 5f 73 69 7a 65 5f	s_position_ids,.1,.0,.%sym_size_
17c0	69 6e 74 5f 34 38 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 48 0a 1a 70 6b 67 2e 74 6f 72	int_48),.kwargs.=.{})JH..pkg.tor
17e0	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 2a 5b 27 27 2c 20 27 62 65 72 74 27	ch.onnx.name_scopes.*['',.'bert'
1800	2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 73 6c 69 63 65 5f 32 27 5d 4a	,.'bert.embeddings',.'slice_2']J
1820	86 05 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e7	....pkg.torch.onnx.stack_trace..
1840	04 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
1860	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
1880	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
18a0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
18c0	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
18e0	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
1900	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
1920	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
1940	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
1960	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 36 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.936,.in.for
1980	77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66	ward.....embedding_output.=.self
19a0	2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.embeddings(...File."/home/hsian
19c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
19e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
1a00	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
1a20	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 35 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.165,.in.forwa
1a40	72 64 0a 20 20 20 20 70 6f 73 69 74 69 6f 6e 5f 69 64 73 20 3d 20 73 65 6c 66 2e 70 6f 73 69 74	rd.....position_ids.=.self.posit
1a60	69 6f 6e 5f 69 64 73 5b 3a 2c 20 70 61 73 74 5f 6b 65 79 5f 76 61 6c 75 65 73 5f 6c 65 6e 67 74	ion_ids[:,.past_key_values_lengt
1a80	68 20 3a 20 73 65 71 5f 6c 65 6e 67 74 68 20 2b 20 70 61 73 74 5f 6b 65 79 5f 76 61 6c 75 65 73	h.:.seq_length.+.past_key_values
1aa0	5f 6c 65 6e 67 74 68 5d 0a d7 0d 0a 26 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 77 6f 72	_length]....&bert.embeddings.wor
1ac0	64 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 0a 09 69 6e 70 75 74 5f 69 64 73 12 09	d_embeddings.weight..input_ids..
1ae0	65 6d 62 65 64 64 69 6e 67 1a 0e 6e 6f 64 65 5f 65 6d 62 65 64 64 69 6e 67 22 06 47 61 74 68 65	embedding..node_embedding".Gathe
1b00	72 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a b4 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 a6 02 3a	r*...axis.....J....namespace...:
1b20	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
1b40	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
1b60	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
1b80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
1ba0	6d 62 65 64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	mbeddings:.transformers.models.b
1bc0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73	ert.modeling_bert.BertEmbeddings
1be0	2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73	/bert.embeddings.word_embeddings
1c00	3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 73 70 61 72 73 65 2e 45 6d 62 65 64 64	:.torch.nn.modules.sparse.Embedd
1c20	69 6e 67 2f 65 6d 62 65 64 64 69 6e 67 3a 20 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65	ing/embedding:.aten.embedding.de
1c40	66 61 75 6c 74 4a 94 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
1c60	69 65 72 61 72 63 68 79 12 f1 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
1c80	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
1ca0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
1cc0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
1ce0	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
1d00	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 74	odeling_bert.BertEmbeddings',.'t
1d20	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 73 70 61 72 73 65 2e 45 6d 62 65 64 64 69 6e 67	orch.nn.modules.sparse.Embedding
1d40	27 2c 20 27 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65 66 61 75 6c 74 27 5d 4a be 01 0a	',.'aten.embedding.default']J...
1d60	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 a3 01 25 65 6d 62 65 64	.pkg.torch.onnx.fx_node...%embed
1d80	64 69 6e 67 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	ding.:.[num_users=1].=.call_func
1da0	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 6d 62 65 64	tion[target=torch.ops.aten.embed
1dc0	64 69 6e 67 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 70 5f 62 65 72 74 5f 65 6d	ding.default](args.=.(%p_bert_em
1de0	62 65 64 64 69 6e 67 73 5f 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 2c	beddings_word_embeddings_weight,
1e00	20 25 69 6e 70 75 74 5f 69 64 73 2c 20 30 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 6d 0a	.%input_ids,.0),.kwargs.=.{})Jm.
1e20	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 4f 5b 27 27	.pkg.torch.onnx.name_scopes.O[''
1e40	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 62 65	,.'bert',.'bert.embeddings',.'be
1e60	72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 27 2c 20	rt.embeddings.word_embeddings',.
1e80	27 65 6d 62 65 64 64 69 6e 67 27 5d 4a f3 05 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	'embedding']J....pkg.torch.onnx.
1ea0	73 74 61 63 6b 5f 74 72 61 63 65 12 d4 05 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
1ec0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
1ee0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
1f00	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
1f20	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
1f40	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
1f60	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
1f80	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
1fa0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
1fc0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
1fe0	65 20 39 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 5f	e.936,.in.forward.....embedding_
2000	6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20 20 46 69 6c 65	output.=.self.embeddings(...File
2020	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
2040	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
2060	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
2080	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
20a0	31 37 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 69 6e 70 75 74 73 5f 65 6d 62 65 64	179,.in.forward.....inputs_embed
20c0	73 20 3d 20 73 65 6c 66 2e 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 28 69 6e 70 75 74 5f 69	s.=.self.word_embeddings(input_i
20e0	64 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ds)...File."/home/hsiangnianian/
2100	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
2120	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e	python3.10/site-packages/torch/n
2140	6e 2f 6d 6f 64 75 6c 65 73 2f 73 70 61 72 73 65 2e 70 79 22 2c 20 6c 69 6e 65 20 31 39 32 2c 20	n/modules/sparse.py",.line.192,.
2160	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 65 6d 62 65 64 64 69 6e	in.forward.....return.F.embeddin
2180	67 28 0a 83 0e 0a 2c 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79 70	g(....,bert.embeddings.token_typ
21a0	65 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 0a 06 65 78 70 61 6e 64 12 0b 65 6d 62	e_embeddings.weight..expand..emb
21c0	65 64 64 69 6e 67 5f 31 1a 10 6e 6f 64 65 5f 65 6d 62 65 64 64 69 6e 67 5f 31 22 06 47 61 74 68	edding_1..node_embedding_1".Gath
21e0	65 72 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a bc 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ae 02	er*...axis.....J....namespace...
2200	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
2220	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
2240	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
2260	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
2280	65 6d 62 65 64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	embeddings:.transformers.models.
22a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67	bert.modeling_bert.BertEmbedding
22c0	73 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62	s/bert.embeddings.token_type_emb
22e0	65 64 64 69 6e 67 73 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 73 70 61 72 73 65	eddings:.torch.nn.modules.sparse
2300	2e 45 6d 62 65 64 64 69 6e 67 2f 65 6d 62 65 64 64 69 6e 67 5f 31 3a 20 61 74 65 6e 2e 65 6d 62	.Embedding/embedding_1:.aten.emb
2320	65 64 64 69 6e 67 2e 64 65 66 61 75 6c 74 4a 94 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	edding.defaultJ....pkg.torch.onn
2340	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
2360	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
2380	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
23a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
23c0	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
23e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64	ls.bert.modeling_bert.BertEmbedd
2400	69 6e 67 73 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 73 70 61 72 73 65 2e	ings',.'torch.nn.modules.sparse.
2420	45 6d 62 65 64 64 69 6e 67 27 2c 20 27 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65 66 61	Embedding',.'aten.embedding.defa
2440	75 6c 74 27 5d 4a c0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
2460	12 a5 01 25 65 6d 62 65 64 64 69 6e 67 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	...%embedding_1.:.[num_users=1].
2480	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
24a0	2e 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	.aten.embedding.default](args.=.
24c0	28 25 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 65	(%p_bert_embeddings_token_type_e
24e0	6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 2c 20 25 65 78 70 61 6e 64 29 2c 20 6b 77 61 72	mbeddings_weight,.%expand),.kwar
2500	67 73 20 3d 20 7b 7d 29 4a 75 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	gs.=.{})Ju..pkg.torch.onnx.name_
2520	73 63 6f 70 65 73 12 57 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64	scopes.W['',.'bert',.'bert.embed
2540	64 69 6e 67 73 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74	dings',.'bert.embeddings.token_t
2560	79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 65 6d 62 65 64 64 69 6e 67 5f 31 27 5d 4a	ype_embeddings',.'embedding_1']J
2580	86 06 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e7	....pkg.torch.onnx.stack_trace..
25a0	05 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
25c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
25e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
2600	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
2620	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
2640	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
2660	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
2680	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
26a0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
26c0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 36 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.936,.in.for
26e0	77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66	ward.....embedding_output.=.self
2700	2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.embeddings(...File."/home/hsian
2720	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
2740	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
2760	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
2780	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 38 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.180,.in.forwa
27a0	72 64 0a 20 20 20 20 74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 20 3d 20 73	rd.....token_type_embeddings.=.s
27c0	65 6c 66 2e 74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 28 74 6f 6b 65 6e 5f	elf.token_type_embeddings(token_
27e0	74 79 70 65 5f 69 64 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	type_ids)...File."/home/hsiangni
2800	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
2820	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
2840	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 73 70 61 72 73 65 2e 70 79 22 2c 20 6c 69 6e 65	orch/nn/modules/sparse.py",.line
2860	20 31 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 65 6d	.192,.in.forward.....return.F.em
2880	62 65 64 64 69 6e 67 28 0a c0 0a 0a 09 65 6d 62 65 64 64 69 6e 67 0a 0b 65 6d 62 65 64 64 69 6e	bedding(.....embedding..embeddin
28a0	67 5f 31 12 06 61 64 64 5f 31 35 1a 0b 6e 6f 64 65 5f 61 64 64 5f 31 35 22 03 41 64 64 4a e7 01	g_1..add_15..node_add_15".AddJ..
28c0	0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
28e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
2900	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
2920	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
2940	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66	ertModel/bert.embeddings:.transf
2960	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
2980	2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 2f 61 64 64 5f 31 35 3a 20 61 74 65 6e 2e 61 64 64	.BertEmbeddings/add_15:.aten.add
29a0	2e 54 65 6e 73 6f 72 4a e8 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	.TensorJ....pkg.torch.onnx.class
29c0	5f 68 69 65 72 61 72 63 68 79 12 c5 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
29e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
2a00	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
2a20	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
2a40	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
2a60	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 27 2c 20	.modeling_bert.BertEmbeddings',.
2a80	27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74 6f 72 63 68	'aten.add.Tensor']J....pkg.torch
2aa0	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 31 35 20 3a 20 5b 6e 75 6d 5f 75 73	.onnx.fx_node.y%add_15.:.[num_us
2ac0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
2ae0	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20	rch.ops.aten.add.Tensor](args.=.
2b00	28 25 65 6d 62 65 64 64 69 6e 67 2c 20 25 65 6d 62 65 64 64 69 6e 67 5f 31 29 2c 20 6b 77 61 72	(%embedding,.%embedding_1),.kwar
2b20	67 73 20 3d 20 7b 7d 29 4a 47 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	gs.=.{})JG..pkg.torch.onnx.name_
2b40	73 63 6f 70 65 73 12 29 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64	scopes.)['',.'bert',.'bert.embed
2b60	64 69 6e 67 73 27 2c 20 27 61 64 64 5f 31 35 27 5d 4a d7 04 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	dings',.'add_15']J....pkg.torch.
2b80	6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 b8 04 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	onnx.stack_trace...File."/home/h
2ba0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
2bc0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
2be0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
2c00	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20	odeling_bert.py",.line.1676,.in.
2c20	66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28	forward.....outputs.=.self.bert(
2c40	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
2c60	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
2c80	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
2ca0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
2cc0	2c 20 6c 69 6e 65 20 39 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64	,.line.936,.in.forward.....embed
2ce0	64 69 6e 67 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20	ding_output.=.self.embeddings(..
2d00	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
2d20	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
2d40	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
2d60	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
2d80	6c 69 6e 65 20 31 38 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69	line.182,.in.forward.....embeddi
2da0	6e 67 73 20 3d 20 69 6e 70 75 74 73 5f 65 6d 62 65 64 73 20 2b 20 74 6f 6b 65 6e 5f 74 79 70 65	ngs.=.inputs_embeds.+.token_type
2dc0	5f 65 6d 62 65 64 64 69 6e 67 73 0a f7 0d 0a 2a 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e	_embeddings....*bert.embeddings.
2de0	70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 0a 07 73 6c 69 63	position_embeddings.weight..slic
2e00	65 5f 32 12 0b 65 6d 62 65 64 64 69 6e 67 5f 32 1a 10 6e 6f 64 65 5f 65 6d 62 65 64 64 69 6e 67	e_2..embedding_2..node_embedding
2e20	5f 32 22 06 47 61 74 68 65 72 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a ba 02 0a 09 6e 61 6d 65	_2".Gather*...axis.....J....name
2e40	73 70 61 63 65 12 ac 02 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
2e60	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
2e80	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
2ea0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
2ec0	65 6c 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	el/bert.embeddings:.transformers
2ee0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
2f00	6d 62 65 64 64 69 6e 67 73 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69	mbeddings/bert.embeddings.positi
2f20	6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	on_embeddings:.torch.nn.modules.
2f40	73 70 61 72 73 65 2e 45 6d 62 65 64 64 69 6e 67 2f 65 6d 62 65 64 64 69 6e 67 5f 32 3a 20 61 74	sparse.Embedding/embedding_2:.at
2f60	65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65 66 61 75 6c 74 4a 94 02 0a 1e 70 6b 67 2e 74 6f 72	en.embedding.defaultJ....pkg.tor
2f80	63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 01 5b 27 74 72 61 6e	ch.onnx.class_hierarchy...['tran
2fa0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
2fc0	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20	rt.BertForTokenClassification',.
2fe0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
3000	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertModel',.'transformer
3020	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
3040	45 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 73	Embeddings',.'torch.nn.modules.s
3060	70 61 72 73 65 2e 45 6d 62 65 64 64 69 6e 67 27 2c 20 27 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e	parse.Embedding',.'aten.embeddin
3080	67 2e 64 65 66 61 75 6c 74 27 5d 4a bf 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	g.default']J....pkg.torch.onnx.f
30a0	78 5f 6e 6f 64 65 12 a4 01 25 65 6d 62 65 64 64 69 6e 67 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65	x_node...%embedding_2.:.[num_use
30c0	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
30e0	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 6d 62 65 64 64 69 6e 67 2e 64 65 66 61 75 6c 74 5d 28 61	ch.ops.aten.embedding.default](a
3100	72 67 73 20 3d 20 28 25 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 70 6f 73 69 74 69	rgs.=.(%p_bert_embeddings_positi
3120	6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 2c 20 25 73 6c 69 63 65 5f 32 29 2c	on_embeddings_weight,.%slice_2),
3140	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 73 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	.kwargs.=.{})Js..pkg.torch.onnx.
3160	6e 61 6d 65 5f 73 63 6f 70 65 73 12 55 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	name_scopes.U['',.'bert',.'bert.
3180	65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f	embeddings',.'bert.embeddings.po
31a0	73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 65 6d 62 65 64 64 69 6e 67 5f 32	sition_embeddings',.'embedding_2
31c0	27 5d 4a 80 06 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
31e0	65 12 e1 05 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
3200	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
3220	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
3240	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
3260	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
3280	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
32a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
32c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
32e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
3300	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 36 2c 20 69 6e 20	modeling_bert.py",.line.936,.in.
3320	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 5f 6f 75 74 70 75 74 20 3d 20 73	forward.....embedding_output.=.s
3340	65 6c 66 2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	elf.embeddings(...File."/home/hs
3360	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
3380	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
33a0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
33c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 38 34 2c 20 69 6e 20 66 6f	deling_bert.py",.line.184,.in.fo
33e0	72 77 61 72 64 0a 20 20 20 20 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 20 3d 20	rward.....position_embeddings.=.
3400	73 65 6c 66 2e 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 28 70 6f 73 69 74 69 6f	self.position_embeddings(positio
3420	6e 5f 69 64 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	n_ids)...File."/home/hsiangniani
3440	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
3460	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63	ib/python3.10/site-packages/torc
3480	68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 73 70 61 72 73 65 2e 70 79 22 2c 20 6c 69 6e 65 20 31 39	h/nn/modules/sparse.py",.line.19
34a0	32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 65 6d 62 65 64	2,.in.forward.....return.F.embed
34c0	64 69 6e 67 28 0a a9 0a 0a 06 61 64 64 5f 31 35 0a 0b 65 6d 62 65 64 64 69 6e 67 5f 32 12 06 61	ding(.....add_15..embedding_2..a
34e0	64 64 5f 33 30 1a 0b 6e 6f 64 65 5f 61 64 64 5f 33 30 22 03 41 64 64 4a e7 01 0a 09 6e 61 6d 65	dd_30..node_add_30".AddJ....name
3500	73 70 61 63 65 12 d9 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
3520	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
3540	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
3560	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
3580	65 6c 2f 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	el/bert.embeddings:.transformers
35a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
35c0	6d 62 65 64 64 69 6e 67 73 2f 61 64 64 5f 33 30 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f	mbeddings/add_30:.aten.add.Tenso
35e0	72 4a e8 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	rJ....pkg.torch.onnx.class_hiera
3600	72 63 68 79 12 c5 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
3620	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
3640	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
3660	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
3680	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
36a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 61 74 65 6e 2e	ing_bert.BertEmbeddings',.'aten.
36c0	61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 90 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	add.Tensor']J....pkg.torch.onnx.
36e0	66 78 5f 6e 6f 64 65 12 76 25 61 64 64 5f 33 30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	fx_node.v%add_30.:.[num_users=1]
3700	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
3720	73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f	s.aten.add.Tensor](args.=.(%add_
3740	31 35 2c 20 25 65 6d 62 65 64 64 69 6e 67 5f 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	15,.%embedding_2),.kwargs.=.{})J
3760	47 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 29 5b	G..pkg.torch.onnx.name_scopes.)[
3780	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 27 2c 20 27	'',.'bert',.'bert.embeddings',.'
37a0	61 64 64 5f 33 30 27 5d 4a c6 04 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	add_30']J....pkg.torch.onnx.stac
37c0	6b 5f 74 72 61 63 65 12 a7 04 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
37e0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
3800	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
3820	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
3840	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
3860	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
3880	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
38a0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
38c0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
38e0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33	/bert/modeling_bert.py",.line.93
3900	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 5f 6f 75 74 70	6,.in.forward.....embedding_outp
3920	75 74 20 3d 20 73 65 6c 66 2e 65 6d 62 65 64 64 69 6e 67 73 28 0a 20 20 46 69 6c 65 20 22 2f 68	ut.=.self.embeddings(...File."/h
3940	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
3960	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
3980	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
39a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 38 35 2c	ert/modeling_bert.py",.line.185,
39c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d 62 65 64 64 69 6e 67 73 20 2b 3d 20 70 6f	.in.forward.....embeddings.+=.po
39e0	73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 0a d8 0e 0a 06 61 64 64 5f 33 30 0a 20 62 65	sition_embeddings.....add_30..be
3a00	72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 1e	rt.embeddings.LayerNorm.weight..
3a20	62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0a	bert.embeddings.LayerNorm.bias..
3a40	6c 61 79 65 72 5f 6e 6f 72 6d 1a 0f 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 22 12 4c 61 79	layer_norm..node_layer_norm".Lay
3a60	65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0	erNormalization*...stash_type...
3a80	01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff	..*...epsilon....+...*...axis...
3aa0	ff ff ff ff ff ff ff 01 a0 01 02 4a b7 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 a9 02 3a 20 74 72	...........J....namespace...:.tr
3ac0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3ae0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
3b00	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
3b20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6d 62 65	odeling_bert.BertModel/bert.embe
3b40	64 64 69 6e 67 73 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ddings:.transformers.models.bert
3b60	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 2f 62 65	.modeling_bert.BertEmbeddings/be
3b80	72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e	rt.embeddings.LayerNorm:.torch.n
3ba0	6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72	n.modules.normalization.LayerNor
3bc0	6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65	m/layer_norm:.aten.layer_norm.de
3be0	66 61 75 6c 74 4a 9c 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
3c00	69 65 72 61 72 63 68 79 12 f9 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
3c20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
3c40	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
3c60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
3c80	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
3ca0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6d 62 65 64 64 69 6e 67 73 27 2c 20 27 74	odeling_bert.BertEmbeddings',.'t
3cc0	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61	orch.nn.modules.normalization.La
3ce0	79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75	yerNorm',.'aten.layer_norm.defau
3d00	6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
3d20	ca 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	..%layer_norm.:.[num_users=1].=.
3d40	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
3d60	74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ten.layer_norm.default](args.=.(
3d80	25 61 64 64 5f 33 30 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e	%add_30,.[256],.%p_bert_embeddin
3da0	67 73 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6d 62	gs_layernorm_weight,.%p_bert_emb
3dc0	65 64 64 69 6e 67 73 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20	eddings_layernorm_bias,.1e-12),.
3de0	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 68 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	kwargs.=.{})Jh..pkg.torch.onnx.n
3e00	61 6d 65 5f 73 63 6f 70 65 73 12 4a 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	ame_scopes.J['',.'bert',.'bert.e
3e20	6d 62 65 64 64 69 6e 67 73 27 2c 20 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79	mbeddings',.'bert.embeddings.Lay
3e40	65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 27 5d 4a f3 05 0a 1a 70 6b 67 2e 74	erNorm',.'layer_norm']J....pkg.t
3e60	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d4 05 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
3e80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
3ea0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
3ec0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
3ee0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
3f00	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
3f20	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
3f40	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
3f60	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
3f80	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
3fa0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.936,.in.forward.....
3fc0	65 6d 62 65 64 64 69 6e 67 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 65 6d 62 65 64 64 69 6e	embedding_output.=.self.embeddin
3fe0	67 73 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	gs(...File."/home/hsiangnianian/
4000	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
4020	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
4040	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
4060	70 79 22 2c 20 6c 69 6e 65 20 31 38 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6d	py",.line.186,.in.forward.....em
4080	62 65 64 64 69 6e 67 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 65 6d 62 65 64 64	beddings.=.self.LayerNorm(embedd
40a0	69 6e 67 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ings)...File."/home/hsiangniania
40c0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
40e0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68	b/python3.10/site-packages/torch
4100	2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c	/nn/modules/normalization.py",.l
4120	69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46	ine.229,.in.forward.....return.F
4140	2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a e0 08 0a 0e 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 0a	.layer_norm(.....attention_mask.
4160	07 76 61 6c 5f 35 30 39 12 0b 75 6e 73 71 75 65 65 7a 65 5f 31 1a 12 6e 6f 64 65 5f 55 6e 73 71	.val_509..unsqueeze_1..node_Unsq
4180	75 65 65 7a 65 5f 35 32 35 22 09 55 6e 73 71 75 65 65 7a 65 4a ac 01 0a 09 6e 61 6d 65 73 70 61	ueeze_525".UnsqueezeJ....namespa
41a0	63 65 12 9e 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
41c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
41e0	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
4200	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
4220	75 6e 73 71 75 65 65 7a 65 5f 31 3a 20 61 74 65 6e 2e 75 6e 73 71 75 65 65 7a 65 2e 64 65 66 61	unsqueeze_1:.aten.unsqueeze.defa
4240	75 6c 74 4a 37 0a 21 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 72 65 77 72 69 74 65 72 2e 72	ultJ7.!pkg.onnxscript.rewriter.r
4260	75 6c 65 5f 6e 61 6d 65 12 12 55 6e 73 71 75 65 65 7a 65 55 6e 73 71 75 65 65 7a 65 4a b6 01 0a	ule_name..UnsqueezeUnsqueezeJ...
4280	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
42a0	93 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
42c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
42e0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
4300	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65	t.modeling_bert.BertModel',.'ate
4320	6e 2e 75 6e 73 71 75 65 65 7a 65 2e 64 65 66 61 75 6c 74 27 5d 4a 94 01 0a 16 70 6b 67 2e 74 6f	n.unsqueeze.default']J....pkg.to
4340	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 7a 25 75 6e 73 71 75 65 65 7a 65 5f 31 20 3a	rch.onnx.fx_node.z%unsqueeze_1.:
4360	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=1].=.call_function[t
4380	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 75 6e 73 71 75 65 65 7a 65 2e 64	arget=torch.ops.aten.unsqueeze.d
43a0	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 75 6e 73 71 75 65 65 7a 65 2c 20 32 29 2c 20	efault](args.=.(%unsqueeze,.2),.
43c0	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 39 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	kwargs.=.{})J9..pkg.torch.onnx.n
43e0	61 6d 65 5f 73 63 6f 70 65 73 12 1b 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 75 6e 73 71 75 65	ame_scopes..['',.'bert',.'unsque
4400	65 7a 65 5f 31 27 5d 4a a5 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	eze_1']J....pkg.torch.onnx.stack
4420	5f 74 72 61 63 65 12 86 03 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
4440	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
4460	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
4480	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
44a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
44c0	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
44e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
4500	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
4520	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
4540	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 36 36	bert/modeling_bert.py",.line.966
4560	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 78 74 65 6e 64 65 64 5f 61 74 74 65 6e 74	,.in.forward.....extended_attent
4580	69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f 70 72 65 70 61 72 65 5f 34 64 5f 61 74 74 65 6e 74 69 6f 6e	ion_mask.=._prepare_4d_attention
45a0	5f 6d 61 73 6b 5f 66 6f 72 5f 73 64 70 61 28 0a d1 08 0a 05 76 61 6c 5f 31 0a 06 76 61 6c 5f 31	_mask_for_sdpa(.....val_1..val_1
45c0	30 0a 05 76 61 6c 5f 32 0a 05 76 61 6c 5f 32 12 06 76 61 6c 5f 35 38 1a 0e 6e 6f 64 65 5f 43 6f	0..val_2..val_2..val_58..node_Co
45e0	6e 63 61 74 5f 35 36 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a a6 01 0a	ncat_56".Concat*...axis.....J...
4600	09 6e 61 6d 65 73 70 61 63 65 12 98 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
4620	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
4640	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
4660	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
4680	72 74 4d 6f 64 65 6c 2f 65 78 70 61 6e 64 5f 31 3a 20 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65	rtModel/expand_1:.aten.expand.de
46a0	66 61 75 6c 74 4a b3 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
46c0	69 65 72 61 72 63 68 79 12 90 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
46e0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
4700	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
4720	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
4740	65 6c 27 2c 20 27 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66 61 75 6c 74 27 5d 4a c5 01 0a 16	el',.'aten.expand.default']J....
4760	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 aa 01 25 65 78 70 61 6e 64	pkg.torch.onnx.fx_node...%expand
4780	5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_1.:.[num_users=1].=.call_functi
47a0	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 78 70 61 6e 64 2e	on[target=torch.ops.aten.expand.
47c0	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 73 6c 69 63 65 5f 34 2c 20 5b 25 73 79 6d	default](args.=.(%slice_4,.[%sym
47e0	5f 73 69 7a 65 5f 69 6e 74 5f 34 37 2c 20 31 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34	_size_int_47,.1,.%sym_size_int_4
4800	38 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20	8,.%sym_size_int_48]),.kwargs.=.
4820	7b 7d 29 4a 36 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	{})J6..pkg.torch.onnx.name_scope
4840	73 12 18 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 65 78 70 61 6e 64 5f 31 27 5d 4a a5 03 0a 1a	s..['',.'bert',.'expand_1']J....
4860	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c	pkg.torch.onnx.stack_trace...Fil
4880	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
48a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
48c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
48e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
4900	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
4920	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
4940	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
4960	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
4980	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
49a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.966,.in.forward
49c0	0a 20 20 20 20 65 78 74 65 6e 64 65 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f	.....extended_attention_mask.=._
49e0	70 72 65 70 61 72 65 5f 34 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64	prepare_4d_attention_mask_for_sd
4a00	70 61 28 0a bd 08 0a 0b 75 6e 73 71 75 65 65 7a 65 5f 31 0a 06 76 61 6c 5f 35 38 12 08 65 78 70	pa(.....unsqueeze_1..val_58..exp
4a20	61 6e 64 5f 31 1a 0d 6e 6f 64 65 5f 65 78 70 61 6e 64 5f 31 22 06 45 78 70 61 6e 64 4a a6 01 0a	and_1..node_expand_1".ExpandJ...
4a40	09 6e 61 6d 65 73 70 61 63 65 12 98 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
4a60	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
4a80	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
4aa0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
4ac0	72 74 4d 6f 64 65 6c 2f 65 78 70 61 6e 64 5f 31 3a 20 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65	rtModel/expand_1:.aten.expand.de
4ae0	66 61 75 6c 74 4a b3 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
4b00	69 65 72 61 72 63 68 79 12 90 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
4b20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
4b40	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
4b60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
4b80	65 6c 27 2c 20 27 61 74 65 6e 2e 65 78 70 61 6e 64 2e 64 65 66 61 75 6c 74 27 5d 4a c5 01 0a 16	el',.'aten.expand.default']J....
4ba0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 aa 01 25 65 78 70 61 6e 64	pkg.torch.onnx.fx_node...%expand
4bc0	5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_1.:.[num_users=1].=.call_functi
4be0	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 65 78 70 61 6e 64 2e	on[target=torch.ops.aten.expand.
4c00	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 73 6c 69 63 65 5f 34 2c 20 5b 25 73 79 6d	default](args.=.(%slice_4,.[%sym
4c20	5f 73 69 7a 65 5f 69 6e 74 5f 34 37 2c 20 31 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34	_size_int_47,.1,.%sym_size_int_4
4c40	38 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20	8,.%sym_size_int_48]),.kwargs.=.
4c60	7b 7d 29 4a 36 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	{})J6..pkg.torch.onnx.name_scope
4c80	73 12 18 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 65 78 70 61 6e 64 5f 31 27 5d 4a a5 03 0a 1a	s..['',.'bert',.'expand_1']J....
4ca0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c	pkg.torch.onnx.stack_trace...Fil
4cc0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
4ce0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
4d00	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
4d20	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
4d40	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
4d60	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
4d80	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
4da0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
4dc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
4de0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.966,.in.forward
4e00	0a 20 20 20 20 65 78 74 65 6e 64 65 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f	.....extended_attention_mask.=._
4e20	70 72 65 70 61 72 65 5f 34 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64	prepare_4d_attention_mask_for_sd
4e40	70 61 28 0a 9c 08 0a 08 65 78 70 61 6e 64 5f 31 12 08 5f 74 6f 5f 63 6f 70 79 1a 0d 6e 6f 64 65	pa(.....expand_1.._to_copy..node
4e60	5f 5f 74 6f 5f 63 6f 70 79 22 04 43 61 73 74 2a 09 0a 02 74 6f 18 01 a0 01 02 4a a8 01 0a 09 6e	__to_copy".Cast*...to.....J....n
4e80	61 6d 65 73 70 61 63 65 12 9a 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
4ea0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
4ec0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
4ee0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4f00	4d 6f 64 65 6c 2f 5f 74 6f 5f 63 6f 70 79 3a 20 61 74 65 6e 2e 5f 74 6f 5f 63 6f 70 79 2e 64 65	Model/_to_copy:.aten._to_copy.de
4f20	66 61 75 6c 74 4a b5 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
4f40	69 65 72 61 72 63 68 79 12 92 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
4f60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
4f80	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
4fa0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
4fc0	65 6c 27 2c 20 27 61 74 65 6e 2e 5f 74 6f 5f 63 6f 70 79 2e 64 65 66 61 75 6c 74 27 5d 4a a2 01	el',.'aten._to_copy.default']J..
4fe0	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 87 01 25 5f 74 6f 5f	..pkg.torch.onnx.fx_node...%_to_
5000	63 6f 70 79 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	copy.:.[num_users=1].=.call_func
5020	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 5f 74 6f 5f 63	tion[target=torch.ops.aten._to_c
5040	6f 70 79 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 65 78 70 61 6e 64 5f 31 2c 29	opy.default](args.=.(%expand_1,)
5060	2c 20 6b 77 61 72 67 73 20 3d 20 7b 64 74 79 70 65 3a 20 74 6f 72 63 68 2e 66 6c 6f 61 74 33 32	,.kwargs.=.{dtype:.torch.float32
5080	7d 29 4a 36 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	})J6..pkg.torch.onnx.name_scopes
50a0	12 18 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 5f 74 6f 5f 63 6f 70 79 27 5d 4a a5 03 0a 1a 70	..['',.'bert',.'_to_copy']J....p
50c0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c 65	kg.torch.onnx.stack_trace...File
50e0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
5100	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
5120	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
5140	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
5160	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
5180	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
51a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
51c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
51e0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
5200	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.966,.in.forward.
5220	20 20 20 20 65 78 74 65 6e 64 65 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f 70	....extended_attention_mask.=._p
5240	72 65 70 61 72 65 5f 34 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64 70	repare_4d_attention_mask_for_sdp
5260	61 28 0a f1 07 0a 07 63 6c 6f 6e 65 5f 31 0a 08 5f 74 6f 5f 63 6f 70 79 12 06 73 75 62 5f 33 31	a(.....clone_1.._to_copy..sub_31
5280	1a 0b 6e 6f 64 65 5f 73 75 62 5f 33 31 22 03 53 75 62 4a a0 01 0a 09 6e 61 6d 65 73 70 61 63 65	..node_sub_31".SubJ....namespace
52a0	12 92 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
52c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
52e0	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
5300	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 73 75	.bert.modeling_bert.BertModel/su
5320	62 5f 33 31 3a 20 61 74 65 6e 2e 73 75 62 2e 54 65 6e 73 6f 72 4a af 01 0a 1e 70 6b 67 2e 74 6f	b_31:.aten.sub.TensorJ....pkg.to
5340	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8c 01 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
5360	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
5380	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
53a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
53c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65 6e 2e 73 75 62 2e 54	ing_bert.BertModel',.'aten.sub.T
53e0	65 6e 73 6f 72 27 5d 4a 8e 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	ensor']J....pkg.torch.onnx.fx_no
5400	64 65 12 74 25 73 75 62 5f 33 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20 63 61	de.t%sub_31.:.[num_users=2].=.ca
5420	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
5440	6e 2e 73 75 62 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 31 2c 20	n.sub.Tensor](args.=.(%clone_1,.
5460	25 5f 74 6f 5f 63 6f 70 79 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 34 0a 1a 70 6b 67 2e	%_to_copy),.kwargs.=.{})J4..pkg.
5480	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 16 5b 27 27 2c 20 27 62 65	torch.onnx.name_scopes..['',.'be
54a0	72 74 27 2c 20 27 73 75 62 5f 33 31 27 5d 4a a5 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	rt',.'sub_31']J....pkg.torch.onn
54c0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
54e0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
5500	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
5520	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
5540	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
5560	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
5580	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
55a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
55c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
55e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
5600	69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 78 74 65 6e 64 65 64	ine.966,.in.forward.....extended
5620	5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f 70 72 65 70 61 72 65 5f 34 64 5f 61 74	_attention_mask.=._prepare_4d_at
5640	74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64 70 61 28 0a 9f 08 0a 06 73 75 62 5f 33	tention_mask_for_sdpa(.....sub_3
5660	31 12 0a 5f 74 6f 5f 63 6f 70 79 5f 31 1a 0f 6e 6f 64 65 5f 5f 74 6f 5f 63 6f 70 79 5f 31 22 04	1.._to_copy_1..node__to_copy_1".
5680	43 61 73 74 2a 09 0a 02 74 6f 18 09 a0 01 02 4a aa 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 9c 01	Cast*...to.....J....namespace...
56a0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
56c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
56e0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
5700	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 5f 74 6f 5f 63	rt.modeling_bert.BertModel/_to_c
5720	6f 70 79 5f 31 3a 20 61 74 65 6e 2e 5f 74 6f 5f 63 6f 70 79 2e 64 65 66 61 75 6c 74 4a b5 01 0a	opy_1:.aten._to_copy.defaultJ...
5740	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
5760	92 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
5780	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
57a0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
57c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65	t.modeling_bert.BertModel',.'ate
57e0	6e 2e 5f 74 6f 5f 63 6f 70 79 2e 64 65 66 61 75 6c 74 27 5d 4a 9f 01 0a 16 70 6b 67 2e 74 6f 72	n._to_copy.default']J....pkg.tor
5800	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 84 01 25 5f 74 6f 5f 63 6f 70 79 5f 31 20 3a 20	ch.onnx.fx_node...%_to_copy_1.:.
5820	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
5840	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 5f 74 6f 5f 63 6f 70 79 2e 64 65 66	rget=torch.ops.aten._to_copy.def
5860	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 73 75 62 5f 33 31 2c 29 2c 20 6b 77 61 72 67 73 20	ault](args.=.(%sub_31,),.kwargs.
5880	3d 20 7b 64 74 79 70 65 3a 20 74 6f 72 63 68 2e 62 6f 6f 6c 7d 29 4a 38 0a 1a 70 6b 67 2e 74 6f	=.{dtype:.torch.bool})J8..pkg.to
58a0	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 1a 5b 27 27 2c 20 27 62 65 72 74	rch.onnx.name_scopes..['',.'bert
58c0	27 2c 20 27 5f 74 6f 5f 63 6f 70 79 5f 31 27 5d 4a a5 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	',.'_to_copy_1']J....pkg.torch.o
58e0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
5900	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
5920	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
5940	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
5960	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
5980	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
59a0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
59c0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
59e0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
5a00	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
5a20	20 6c 69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 78 74 65 6e 64	.line.966,.in.forward.....extend
5a40	65 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f 70 72 65 70 61 72 65 5f 34 64 5f	ed_attention_mask.=._prepare_4d_
5a60	61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64 70 61 28 0a c8 08 0a 0a 5f 74 6f	attention_mask_for_sdpa(....._to
5a80	5f 63 6f 70 79 5f 31 0a 06 76 61 6c 5f 36 30 0a 06 73 75 62 5f 33 31 12 0b 6d 61 73 6b 65 64 5f	_copy_1..val_60..sub_31..masked_
5aa0	66 69 6c 6c 1a 10 6e 6f 64 65 5f 6d 61 73 6b 65 64 5f 66 69 6c 6c 22 05 57 68 65 72 65 4a ad 01	fill..node_masked_fill".WhereJ..
5ac0	0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
5ae0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
5b00	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
5b20	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
5b40	65 72 74 4d 6f 64 65 6c 2f 6d 61 73 6b 65 64 5f 66 69 6c 6c 3a 20 61 74 65 6e 2e 6d 61 73 6b 65	ertModel/masked_fill:.aten.maske
5b60	64 5f 66 69 6c 6c 2e 53 63 61 6c 61 72 4a b7 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	d_fill.ScalarJ....pkg.torch.onnx
5b80	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 01 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
5ba0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
5bc0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
5be0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
5c00	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 61 74 65 6e 2e 6d 61 73 6b 65 64 5f 66 69 6c 6c 2e 53	.BertModel',.'aten.masked_fill.S
5c20	63 61 6c 61 72 27 5d 4a b6 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	calar']J....pkg.torch.onnx.fx_no
5c40	64 65 12 9b 01 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 36	de...%masked_fill.:.[num_users=6
5c60	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
5c80	70 73 2e 61 74 65 6e 2e 6d 61 73 6b 65 64 5f 66 69 6c 6c 2e 53 63 61 6c 61 72 5d 28 61 72 67 73	ps.aten.masked_fill.Scalar](args
5ca0	20 3d 20 28 25 73 75 62 5f 33 31 2c 20 25 5f 74 6f 5f 63 6f 70 79 5f 31 2c 20 2d 33 2e 34 30 32	.=.(%sub_31,.%_to_copy_1,.-3.402
5cc0	38 32 33 34 36 36 33 38 35 32 38 38 36 65 2b 33 38 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	8234663852886e+38),.kwargs.=.{})
5ce0	4a 39 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 1b	J9..pkg.torch.onnx.name_scopes..
5d00	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 6d 61 73 6b 65 64 5f 66 69 6c 6c 27 5d 4a a5 03 0a 1a	['',.'bert',.'masked_fill']J....
5d20	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 03 46 69 6c	pkg.torch.onnx.stack_trace...Fil
5d40	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
5d60	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
5d80	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
5da0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
5dc0	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
5de0	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
5e00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
5e20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
5e40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
5e60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 39 36 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.966,.in.forward
5e80	0a 20 20 20 20 65 78 74 65 6e 64 65 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 20 3d 20 5f	.....extended_attention_mask.=._
5ea0	70 72 65 70 61 72 65 5f 34 64 5f 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 5f 66 6f 72 5f 73 64	prepare_4d_attention_mask_for_sd
5ec0	70 61 28 0a de 16 0a 0a 6c 61 79 65 72 5f 6e 6f 72 6d 0a 06 76 61 6c 5f 36 31 12 06 76 61 6c 5f	pa(.....layer_norm..val_61..val_
5ee0	36 32 1a 0e 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 36 30 22 06 4d 61 74 4d 75 6c 4a ad 04 0a 09 6e	62..node_MatMul_60".MatMulJ....n
5f00	61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
5f20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
5f40	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
5f60	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
5f80	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
5fa0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
5fc0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61	ncoder/bert.encoder.layer.0:.tra
5fe0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6000	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
6020	2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.0.attention:.transformers.model
6040	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
6060	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.0.attentio
6080	6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n.self:.transformers.models.bert
60a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
60c0	74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	tion/bert.encoder.layer.0.attent
60e0	69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73	ion.self.query:.torch.nn.modules
6100	2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 3a 20 61 74 65 6e 2e 6c 69 6e 65	.linear.Linear/linear:.aten.line
6120	61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	ar.defaultJ....pkg.torch.onnx.cl
6140	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
6160	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
6180	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
61a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
61c0	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
61e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
6200	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
6220	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
6240	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6260	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
6280	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
62a0	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	Attention',.'torch.nn.modules.li
62c0	6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	near.Linear',.'aten.linear.defau
62e0	6c 74 27 5d 4a ee 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
6300	d3 01 25 6c 69 6e 65 61 72 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	..%linear.:.[num_users=1].=.call
6320	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
6340	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20	linear.default](args.=.(%clone,.
6360	25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f	%p_bert_encoder_layer_0_attentio
6380	6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	n_self_query_weight,.%p_bert_enc
63a0	6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72	oder_layer_0_attention_self_quer
63c0	79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d3 01 0a 1a 70 6b 67 2e 74 6f	y_bias),.kwargs.=.{})J....pkg.to
63e0	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b4 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
6400	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
6420	72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.0',.'bert.encoder.layer.
6440	30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	0.attention',.'bert.encoder.laye
6460	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	r.0.attention.self',.'bert.encod
6480	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27	er.layer.0.attention.self.query'
64a0	2c 20 27 6c 69 6e 65 61 72 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	,.'linear']J....pkg.torch.onnx.s
64c0	74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
64e0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
6500	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
6520	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
6540	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
6560	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
6580	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
65a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
65c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
65e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
6600	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
6620	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
6640	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
6660	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
6680	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
66a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
66c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
66e0	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
6700	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
6720	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
6740	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
6760	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
6780	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
67a0	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
67c0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
67e0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
6800	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
6820	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
6840	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
6860	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
6880	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
68a0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
68c0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
68e0	2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.363,.in.forward.....s
6900	65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73	elf.query(hidden_states).view(bs
6920	7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c	z,.-1,.self.num_attention_heads,
6940	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73	.self.attention_head_size).trans
6960	70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	pose(1,.2)...File."/home/hsiangn
6980	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
69a0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
69c0	74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e	torch/nn/modules/linear.py",.lin
69e0	65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c	e.134,.in.forward.....return.F.l
6a00	69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62	inear(input,.self.weight,.self.b
6a20	69 61 73 29 0a fc 16 0a 06 76 61 6c 5f 36 32 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	ias).....val_62..bert.encoder.la
6a40	79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12	yer.0.attention.self.query.bias.
6a60	06 6c 69 6e 65 61 72 1a 0b 6e 6f 64 65 5f 6c 69 6e 65 61 72 22 03 41 64 64 4a ad 04 0a 09 6e 61	.linear..node_linear".AddJ....na
6a80	6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
6aa0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
6ac0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
6ae0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
6b00	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
6b20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
6b40	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e	coder/bert.encoder.layer.0:.tran
6b60	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
6b80	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
6ba0	30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	0.attention:.transformers.models
6bc0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
6be0	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.0.attention
6c00	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
6c20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
6c40	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.0.attenti
6c60	6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	on.self.query:.torch.nn.modules.
6c80	6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	linear.Linear/linear:.aten.linea
6ca0	72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
6cc0	73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
6ce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
6d00	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
6d20	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6d40	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
6d60	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
6d80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
6da0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
6dc0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
6de0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
6e00	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
6e20	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	ttention',.'torch.nn.modules.lin
6e40	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
6e60	74 27 5d 4a ee 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d3	t']J....pkg.torch.onnx.fx_node..
6e80	01 25 6c 69 6e 65 61 72 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	.%linear.:.[num_users=1].=.call_
6ea0	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c	function[target=torch.ops.aten.l
6ec0	69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20 25	inear.default](args.=.(%clone,.%
6ee0	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e	p_bert_encoder_layer_0_attention
6f00	5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f	_self_query_weight,.%p_bert_enco
6f20	64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79	der_layer_0_attention_self_query
6f40	5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d3 01 0a 1a 70 6b 67 2e 74 6f 72	_bias),.kwargs.=.{})J....pkg.tor
6f60	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b4 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
6f80	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
6fa0	2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30	.layer.0',.'bert.encoder.layer.0
6fc0	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
6fe0	2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	.0.attention.self',.'bert.encode
7000	72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c	r.layer.0.attention.self.query',
7020	20 27 6c 69 6e 65 61 72 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	.'linear']J....pkg.torch.onnx.st
7040	61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
7060	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
7080	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
70a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
70c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
70e0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
7100	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
7120	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
7140	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
7160	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
7180	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
71a0	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
71c0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
71e0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
7200	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
7220	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
7240	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
7260	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
7280	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
72a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
72c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
72e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
7300	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
7320	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
7340	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
7360	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
7380	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
73a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
73c0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
73e0	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
7400	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
7420	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
7440	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
7460	70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.363,.in.forward.....se
7480	6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a	lf.query(hidden_states).view(bsz
74a0	2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20	,.-1,.self.num_attention_heads,.
74c0	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70	self.attention_head_size).transp
74e0	6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ose(1,.2)...File."/home/hsiangni
7500	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
7520	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
7540	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65	orch/nn/modules/linear.py",.line
7560	20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69	.134,.in.forward.....return.F.li
7580	6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69	near(input,.self.weight,.self.bi
75a0	61 73 29 0a cf 13 0a 05 76 61 6c 5f 30 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f 36 36 0a 06 76	as).....val_0..val_65..val_66..v
75c0	61 6c 5f 36 37 12 06 76 61 6c 5f 36 38 1a 0e 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 36 36 22 06 43	al_67..val_68..node_Concat_66".C
75e0	6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a df 03 0a 09 6e 61 6d 65 73 70 61 63 65	oncat*...axis.....J....namespace
7600	12 d1 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
7620	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
7640	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
7660	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
7680	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
76a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
76c0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.0:.transformer
76e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
7700	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	Layer/bert.encoder.layer.0.atten
7720	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
7740	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
7760	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.0.attention.self:.
7780	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
77a0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65	g_bert.BertSdpaSelfAttention/vie
77c0	77 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72	w:.aten.view.defaultJ....pkg.tor
77e0	63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e	ch.onnx.class_hierarchy...['tran
7800	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
7820	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20	rt.BertForTokenClassification',.
7840	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
7860	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertModel',.'transformer
7880	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
78a0	45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	Encoder',.'transformers.models.b
78c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74	ert.modeling_bert.BertLayer',.'t
78e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
7900	5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	_bert.BertAttention',.'transform
7920	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
7940	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77	rtSdpaSelfAttention',.'aten.view
7960	2e 64 65 66 61 75 6c 74 27 5d 4a a2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
7980	5f 6e 6f 64 65 12 87 01 25 76 69 65 77 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	_node...%view.:.[num_users=1].=.
79a0	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
79c0	74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61	ten.view.default](args.=.(%linea
79e0	72 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d	r,.[%sym_size_int_45,.-1,.8,.32]
7a00	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
7a20	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
7a40	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
7a60	72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	r.0',.'bert.encoder.layer.0.atte
7a80	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	ntion',.'bert.encoder.layer.0.at
7aa0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74	tention.self',.'view']J....pkg.t
7ac0	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
7ae0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
7b00	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
7b20	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
7b40	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
7b60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
7b80	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
7ba0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
7bc0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
7be0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
7c00	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
7c20	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
7c40	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
7c60	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
7c80	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
7ca0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
7cc0	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
7ce0	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
7d00	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
7d20	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
7d40	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
7d60	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
7d80	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
7da0	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
7dc0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
7de0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
7e00	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
7e20	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
7e40	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
7e60	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
7e80	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
7ea0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
7ec0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
7ee0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.363,.in.fo
7f00	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74	rward.....self.query(hidden_stat
7f20	65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e	es).view(bsz,.-1,.self.num_atten
7f40	74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f	tion_heads,.self.attention_head_
7f60	73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a bf 13 0a 06 6c 69 6e 65 61 72	size).transpose(1,.2).....linear
7f80	0a 06 76 61 6c 5f 36 38 12 04 76 69 65 77 1a 09 6e 6f 64 65 5f 76 69 65 77 22 07 52 65 73 68 61	..val_68..view..node_view".Resha
7fa0	70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a df 03 0a 09 6e 61 6d 65 73 70 61	pe*...allowzero.....J....namespa
7fc0	63 65 12 d1 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
7fe0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
8000	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
8020	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
8040	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
8060	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
8080	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.0:.transform
80a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
80c0	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	rtLayer/bert.encoder.layer.0.att
80e0	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
8100	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
8120	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.0.attention.self
8140	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
8160	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76	ing_bert.BertSdpaSelfAttention/v
8180	69 65 77 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74	iew:.aten.view.defaultJ....pkg.t
81a0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
81c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
81e0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
8200	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
8220	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
8240	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
8260	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
8280	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
82a0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
82c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
82e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
8300	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69	BertSdpaSelfAttention',.'aten.vi
8320	65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ew.default']J....pkg.torch.onnx.
8340	66 78 5f 6e 6f 64 65 12 87 01 25 76 69 65 77 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	fx_node...%view.:.[num_users=1].
8360	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
8380	2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e	.aten.view.default](args.=.(%lin
83a0	65 61 72 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33	ear,.[%sym_size_int_45,.-1,.8,.3
83c0	32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	2]),.kwargs.=.{})J....pkg.torch.
83e0	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
8400	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
8420	79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	yer.0',.'bert.encoder.layer.0.at
8440	74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e	tention',.'bert.encoder.layer.0.
8460	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 27 5d 4a bc 09 0a 1a 70 6b 67	attention.self',.'view']J....pkg
8480	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
84a0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
84c0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
84e0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
8500	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
8520	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
8540	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
8560	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
8580	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
85a0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
85c0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
85e0	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
8600	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
8620	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
8640	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
8660	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
8680	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
86a0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
86c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
86e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
8700	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
8720	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
8740	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
8760	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
8780	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
87a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
87c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
87e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
8800	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
8820	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
8840	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
8860	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
8880	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
88a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20	modeling_bert.py",.line.363,.in.
88c0	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74	forward.....self.query(hidden_st
88e0	61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74	ates).view(bsz,.-1,.self.num_att
8900	65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61	ention_heads,.self.attention_hea
8920	64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a b8 13 0a 04 76 69 65 77	d_size).transpose(1,.2).....view
8940	12 09 74 72 61 6e 73 70 6f 73 65 1a 0e 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 22 09 54 72 61	..transpose..node_transpose".Tra
8960	6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e5 03 0a 09 6e 61	nspose*...perm@.@.@.@....J....na
8980	6d 65 73 70 61 63 65 12 d7 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
89a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
89c0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
89e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
8a00	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
8a20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
8a40	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e	coder/bert.encoder.layer.0:.tran
8a60	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
8a80	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
8aa0	30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	0.attention:.transformers.models
8ac0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
8ae0	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.0.attention
8b00	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
8b20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
8b40	69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e	ion/transpose:.aten.transpose.in
8b60	74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
8b80	72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
8ba0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
8bc0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
8be0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
8c00	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
8c20	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
8c40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
8c60	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
8c80	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
8ca0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
8cc0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
8ce0	27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 8c 01 0a 16 70 6b 67	',.'aten.transpose.int']J....pkg
8d00	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 72 25 74 72 61 6e 73 70 6f 73 65 20	.torch.onnx.fx_node.r%transpose.
8d20	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
8d40	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e	target=torch.ops.aten.transpose.
8d60	69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67	int](args.=.(%view,.1,.2),.kwarg
8d80	73 20 3d 20 7b 7d 29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
8da0	73 63 6f 70 65 73 12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
8dc0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62	der',.'bert.encoder.layer.0',.'b
8de0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.0.attention',.
8e00	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.0.attention.
8e20	73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63	self',.'transpose']J....pkg.torc
8e40	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
8e60	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
8e80	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
8ea0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
8ec0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
8ee0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
8f00	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
8f20	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
8f40	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
8f60	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
8f80	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
8fa0	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
8fc0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
8fe0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
9000	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
9020	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
9040	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
9060	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
9080	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
90a0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
90c0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
90e0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
9100	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
9120	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
9140	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
9160	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
9180	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
91a0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
91c0	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
91e0	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
9200	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
9220	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
9240	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
9260	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.363,.in.forwa
9280	72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29	rd.....self.query(hidden_states)
92a0	2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f	.view(bsz,.-1,.self.num_attentio
92c0	6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a	n_heads,.self.attention_head_siz
92e0	65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 89 16 0a 0a 6c 61 79 65 72 5f 6e 6f 72	e).transpose(1,.2).....layer_nor
9300	6d 0a 06 76 61 6c 5f 36 39 12 06 76 61 6c 5f 37 30 1a 0e 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 36	m..val_69..val_70..node_MatMul_6
9320	38 22 06 4d 61 74 4d 75 6c 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e	8".MatMulJ....namespace...:.tran
9340	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
9360	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
9380	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
93a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
93c0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
93e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
9400	65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.0:.transformers.models.
9420	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
9440	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.0.attention:.tra
9460	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
9480	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
94a0	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.0.attention.self:.transform
94c0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
94e0	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	rtSdpaSelfAttention/bert.encoder
9500	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72	.layer.0.attention.self.key:.tor
9520	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
9540	61 72 5f 31 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b	ar_1:.aten.linear.defaultJ....pk
9560	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b	g.torch.onnx.class_hierarchy...[
9580	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
95a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
95c0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
95e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
9600	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
9620	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
9640	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
9660	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
9680	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
96a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
96c0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63	rt.BertSdpaSelfAttention',.'torc
96e0	68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74	h.nn.modules.linear.Linear',.'at
9700	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a ec 01 0a 16 70 6b 67 2e 74 6f 72 63	en.linear.default']J....pkg.torc
9720	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d1 01 25 6c 69 6e 65 61 72 5f 31 20 3a 20 5b 6e 75	h.onnx.fx_node...%linear_1.:.[nu
9740	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
9760	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d	t=torch.ops.aten.linear.default]
9780	28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	(args.=.(%clone,.%p_bert_encoder
97a0	5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67	_layer_0_attention_self_key_weig
97c0	68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65	ht,.%p_bert_encoder_layer_0_atte
97e0	6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	ntion_self_key_bias),.kwargs.=.{
9800	7d 29 4a d3 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	})J....pkg.torch.onnx.name_scope
9820	73 12 b4 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c	s...['',.'bert',.'bert.encoder',
9840	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65	.'bert.encoder.layer.0',.'bert.e
9860	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74	ncoder.layer.0.attention',.'bert
9880	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27	.encoder.layer.0.attention.self'
98a0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.0.attentio
98c0	6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72 5f 31 27 5d 4a a3 0a 0a 1a 70 6b 67	n.self.key',.'linear_1']J....pkg
98e0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
9900	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
9920	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
9940	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
9960	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
9980	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
99a0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
99c0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
99e0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
9a00	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
9a20	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
9a40	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
9a60	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
9a80	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
9aa0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
9ac0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
9ae0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
9b00	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
9b20	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
9b40	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
9b60	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
9b80	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
9ba0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
9bc0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
9be0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
9c00	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
9c20	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
9c40	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
9c60	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
9c80	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
9ca0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
9cc0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
9ce0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
9d00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20	modeling_bert.py",.line.387,.in.
9d20	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61	forward.....self.key(current_sta
9d40	74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	tes)...File."/home/hsiangnianian
9d60	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
9d80	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f	/python3.10/site-packages/torch/
9da0	6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c	nn/modules/linear.py",.line.134,
9dc0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28	.in.forward.....return.F.linear(
9de0	69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a a9	input,.self.weight,.self.bias)..
9e00	16 0a 06 76 61 6c 5f 37 30 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e	...val_70.,bert.encoder.layer.0.
9e20	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 08 6c 69 6e 65 61 72 5f	attention.self.key.bias..linear_
9e40	31 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 22 03 41 64 64 4a ad 04 0a 09 6e 61 6d 65 73 70	1..node_linear_1".AddJ....namesp
9e60	61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
9e80	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
9ea0	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
9ec0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
9ee0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
9f00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
9f20	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.0:.transfor
9f40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
9f60	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	ertLayer/bert.encoder.layer.0.at
9f80	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
9fa0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
9fc0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.0.attention.sel
9fe0	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
a000	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
a020	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.0.attention.s
a040	65 6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72	elf.key:.torch.nn.modules.linear
a060	2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	.Linear/linear_1:.aten.linear.de
a080	66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
a0a0	69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
a0c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
a0e0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
a100	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
a120	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
a140	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
a160	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
a180	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
a1a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
a1c0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
a1e0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
a200	74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e	tion',.'torch.nn.modules.linear.
a220	4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a	Linear',.'aten.linear.default']J
a240	ec 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d1 01 25 6c 69	....pkg.torch.onnx.fx_node...%li
a260	6e 65 61 72 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	near_1.:.[num_users=1].=.call_fu
a280	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e	nction[target=torch.ops.aten.lin
a2a0	65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20 25 70 5f	ear.default](args.=.(%clone,.%p_
a2c0	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73	bert_encoder_layer_0_attention_s
a2e0	65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	elf_key_weight,.%p_bert_encoder_
a300	6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29	layer_0_attention_self_key_bias)
a320	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d3 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
a340	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b4 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
a360	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
a380	2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	.0',.'bert.encoder.layer.0.atten
a3a0	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	tion',.'bert.encoder.layer.0.att
a3c0	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ention.self',.'bert.encoder.laye
a3e0	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72	r.0.attention.self.key',.'linear
a400	5f 31 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	_1']J....pkg.torch.onnx.stack_tr
a420	61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
a440	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
a460	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
a480	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
a4a0	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
a4c0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
a4e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
a500	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
a520	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
a540	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
a560	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
a580	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
a5a0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
a5c0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
a5e0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
a600	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
a620	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
a640	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
a660	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
a680	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
a6a0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
a6c0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
a6e0	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
a700	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
a720	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
a740	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
a760	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
a780	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
a7a0	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
a7c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a7e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a800	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a820	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a840	69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65 79	ine.387,.in.forward.....self.key
a860	28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	(current_states)...File."/home/h
a880	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
a8a0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
a8c0	6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79	kages/torch/nn/modules/linear.py
a8e0	22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75	",.line.134,.in.forward.....retu
a900	72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20	rn.F.linear(input,.self.weight,.
a920	73 65 6c 66 2e 62 69 61 73 29 0a a4 13 0a 08 6c 69 6e 65 61 72 5f 31 0a 06 76 61 6c 5f 36 38 12	self.bias).....linear_1..val_68.
a940	06 76 69 65 77 5f 31 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 31 22 07 52 65 73 68 61 70 65 2a 10 0a	.view_1..node_view_1".Reshape*..
a960	09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03	.allowzero.....J....namespace...
a980	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
a9a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
a9c0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
a9e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
aa00	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
aa20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
aa40	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.0:.transformers.m
aa60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
aa80	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.0.attentio
aaa0	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
aac0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
aae0	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.0.attention.self:.tra
ab00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
ab20	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31	ert.BertSdpaSelfAttention/view_1
ab40	3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63	:.aten.view.defaultJ....pkg.torc
ab60	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
ab80	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
aba0	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
abc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
abe0	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
ac00	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
ac20	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
ac40	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
ac60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
ac80	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
aca0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
acc0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e	tSdpaSelfAttention',.'aten.view.
ace0	64 65 66 61 75 6c 74 27 5d 4a a6 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
ad00	6e 6f 64 65 12 8b 01 25 76 69 65 77 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	node...%view_1.:.[num_users=1].=
ad20	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
ad40	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65	aten.view.default](args.=.(%line
ad60	61 72 5f 31 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20	ar_1,.[%sym_size_int_45,.-1,.8,.
ad80	33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	32]),.kwargs.=.{})J....pkg.torch
ada0	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
adc0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
ade0	61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	ayer.0',.'bert.encoder.layer.0.a
ae00	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30	ttention',.'bert.encoder.layer.0
ae20	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 31 27 5d 4a 93 09 0a 1a	.attention.self',.'view_1']J....
ae40	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
ae60	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
ae80	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
aea0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
aec0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
aee0	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
af00	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
af20	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
af40	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
af60	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
af80	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
afa0	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
afc0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
afe0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
b000	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
b020	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
b040	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
b060	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
b080	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
b0a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
b0c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
b0e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
b100	69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74	ine.558,.in.forward.....self_att
b120	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28	ention_outputs.=.self.attention(
b140	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
b160	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
b180	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
b1a0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
b1c0	2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.488,.in.forward.....self_
b1e0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.self(...File."/ho
b200	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
b220	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
b240	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
b260	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 38 2c 20	rt/modeling_bert.py",.line.388,.
b280	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65	in.forward......view(bsz,.-1,.se
b2a0	6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74	lf.num_attention_heads,.self.att
b2c0	65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a eb 12 0a 06 76 69 65 77 5f 31 12 0b 74 72	ention_head_size).....view_1..tr
b2e0	61 6e 73 70 6f 73 65 5f 31 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 22 09 54 72 61	anspose_1..node_transpose_1".Tra
b300	6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03 0a 09 6e 61	nspose*...perm@.@.@.@....J....na
b320	6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
b340	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
b360	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
b380	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
b3a0	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
b3c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
b3e0	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e	coder/bert.encoder.layer.0:.tran
b400	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
b420	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
b440	30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	0.attention:.transformers.models
b460	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
b480	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.0.attention
b4a0	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
b4c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
b4e0	69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e	ion/transpose_1:.aten.transpose.
b500	69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	intJ....pkg.torch.onnx.class_hie
b520	72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
b540	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
b560	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
b580	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
b5a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
b5c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
b5e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
b600	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
b620	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
b640	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
b660	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
b680	6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 90 01 0a 16 70	on',.'aten.transpose.int']J....p
b6a0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 76 25 74 72 61 6e 73 70 6f 73	kg.torch.onnx.fx_node.v%transpos
b6c0	65 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	e_1.:.[num_users=1].=.call_funct
b6e0	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70	ion[target=torch.ops.aten.transp
b700	6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 2c 20 31 2c 20 32 29 2c	ose.int](args.=.(%view_1,.1,.2),
b720	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
b740	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
b760	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
b780	30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	0',.'bert.encoder.layer.0.attent
b7a0	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	ion',.'bert.encoder.layer.0.atte
b7c0	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 27 5d 4a e1 08 0a 1a	ntion.self',.'transpose_1']J....
b7e0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
b800	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
b820	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
b840	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
b860	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
b880	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
b8a0	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
b8c0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
b8e0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
b900	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
b920	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
b940	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
b960	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
b980	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
b9a0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
b9c0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
b9e0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
ba00	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
ba20	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
ba40	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
ba60	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
ba80	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
baa0	69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74	ine.558,.in.forward.....self_att
bac0	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28	ention_outputs.=.self.attention(
bae0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
bb00	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
bb20	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
bb40	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
bb60	2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.488,.in.forward.....self_
bb80	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.self(...File."/ho
bba0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
bbc0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
bbe0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
bc00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 39 2c 20	rt/modeling_bert.py",.line.389,.
bc20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a	in.forward......transpose(1,.2).
bc40	93 16 0a 0a 6c 61 79 65 72 5f 6e 6f 72 6d 0a 06 76 61 6c 5f 37 37 12 06 76 61 6c 5f 37 38 1a 0e	....layer_norm..val_77..val_78..
bc60	6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 37 36 22 06 4d 61 74 4d 75 6c 4a af 04 0a 09 6e 61 6d 65 73	node_MatMul_76".MatMulJ....names
bc80	70 61 63 65 12 a1 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
bca0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
bcc0	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
bce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
bd00	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
bd20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
bd40	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.0:.transfo
bd60	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
bd80	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	BertLayer/bert.encoder.layer.0.a
bda0	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
bdc0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
bde0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.0.attention.se
be00	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
be20	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
be40	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.0.attention.
be60	73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	self.value:.torch.nn.modules.lin
be80	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72	ear.Linear/linear_2:.aten.linear
bea0	2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	.defaultJ....pkg.torch.onnx.clas
bec0	73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
bee0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
bf00	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
bf20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
bf40	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
bf60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
bf80	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
bfa0	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
bfc0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
bfe0	74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tention',.'transformers.models.b
c000	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
c020	74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65	tention',.'torch.nn.modules.line
c040	61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	ar.Linear',.'aten.linear.default
c060	27 5d 4a f0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d5 01	']J....pkg.torch.onnx.fx_node...
c080	25 6c 69 6e 65 61 72 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	%linear_2.:.[num_users=1].=.call
c0a0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
c0c0	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20	linear.default](args.=.(%clone,.
c0e0	25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f	%p_bert_encoder_layer_0_attentio
c100	6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	n_self_value_weight,.%p_bert_enc
c120	6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75	oder_layer_0_attention_self_valu
c140	65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f	e_bias),.kwargs.=.{})J....pkg.to
c160	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
c180	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
c1a0	72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.0',.'bert.encoder.layer.
c1c0	30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	0.attention',.'bert.encoder.laye
c1e0	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	r.0.attention.self',.'bert.encod
c200	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27	er.layer.0.attention.self.value'
c220	2c 20 27 6c 69 6e 65 61 72 5f 32 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	,.'linear_2']J....pkg.torch.onnx
c240	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
c260	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
c280	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
c2a0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
c2c0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
c2e0	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
c300	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
c320	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
c340	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
c360	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
c380	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
c3a0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
c3c0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
c3e0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
c400	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
c420	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
c440	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
c460	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
c480	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
c4a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
c4c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
c4e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
c500	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
c520	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
c540	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
c560	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
c580	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
c5a0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
c5c0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
c5e0	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
c600	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
c620	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
c640	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
c660	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.392,.in.forward....
c680	20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69	.self.value(current_states)...Fi
c6a0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
c6c0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
c6e0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65	10/site-packages/torch/nn/module
c700	73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61	s/linear.py",.line.134,.in.forwa
c720	72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65	rd.....return.F.linear(input,.se
c740	6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a b5 16 0a 06 76 61 6c 5f 37 38	lf.weight,.self.bias).....val_78
c760	0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	..bert.encoder.layer.0.attention
c780	2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 08 6c 69 6e 65 61 72 5f 32 1a 0d 6e 6f 64 65	.self.value.bias..linear_2..node
c7a0	5f 6c 69 6e 65 61 72 5f 32 22 03 41 64 64 4a af 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a1 04 3a	_linear_2".AddJ....namespace...:
c7c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
c7e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
c800	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
c820	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
c840	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
c860	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
c880	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.0:.transformers.mo
c8a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
c8c0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	r/bert.encoder.layer.0.attention
c8e0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
c900	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	ing_bert.BertAttention/bert.enco
c920	64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e	der.layer.0.attention.self:.tran
c940	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
c960	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	rt.BertSdpaSelfAttention/bert.en
c980	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.0.attention.self.val
c9a0	75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65	ue:.torch.nn.modules.linear.Line
c9c0	61 72 2f 6c 69 6e 65 61 72 5f 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	ar/linear_2:.aten.linear.default
c9e0	4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
ca00	63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
ca20	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
ca40	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
ca60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
ca80	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
caa0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
cac0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
cae0	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
cb00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27	ert.modeling_bert.BertAttention'
cb20	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
cb40	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27	ling_bert.BertSdpaSelfAttention'
cb60	2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	,.'torch.nn.modules.linear.Linea
cb80	72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f0 01 0a 16 70	r',.'aten.linear.default']J....p
cba0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d5 01 25 6c 69 6e 65 61 72 5f	kg.torch.onnx.fx_node...%linear_
cbc0	32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	2.:.[num_users=1].=.call_functio
cbe0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	n[target=torch.ops.aten.linear.d
cc00	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 2c 20 25 70 5f 62 65 72 74 5f	efault](args.=.(%clone,.%p_bert_
cc20	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76	encoder_layer_0_attention_self_v
cc40	61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79	alue_weight,.%p_bert_encoder_lay
cc60	65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c	er_0_attention_self_value_bias),
cc80	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
cca0	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
ccc0	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
cce0	30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	0',.'bert.encoder.layer.0.attent
cd00	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	ion',.'bert.encoder.layer.0.atte
cd20	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ntion.self',.'bert.encoder.layer
cd40	2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61	.0.attention.self.value',.'linea
cd60	72 5f 32 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	r_2']J....pkg.torch.onnx.stack_t
cd80	72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
cda0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
cdc0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
cde0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
ce00	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
ce20	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
ce40	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
ce60	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
ce80	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
cea0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
cec0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
cee0	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
cf00	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
cf20	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
cf40	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
cf60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
cf80	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
cfa0	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
cfc0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
cfe0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
d000	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
d020	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
d040	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
d060	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
d080	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
d0a0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
d0c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
d0e0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
d100	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
d120	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
d140	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
d160	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
d180	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
d1a0	6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61	line.392,.in.forward.....self.va
d1c0	6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	lue(current_states)...File."/hom
d1e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
d200	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
d220	70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72	packages/torch/nn/modules/linear
d240	2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	.py",.line.134,.in.forward.....r
d260	65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68	eturn.F.linear(input,.self.weigh
d280	74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a a4 13 0a 08 6c 69 6e 65 61 72 5f 32 0a 06 76 61 6c 5f	t,.self.bias).....linear_2..val_
d2a0	36 38 12 06 76 69 65 77 5f 32 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 32 22 07 52 65 73 68 61 70 65	68..view_2..node_view_2".Reshape
d2c0	2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65	*...allowzero.....J....namespace
d2e0	12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
d300	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
d320	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
d340	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
d360	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
d380	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
d3a0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.0:.transformer
d3c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
d3e0	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	Layer/bert.encoder.layer.0.atten
d400	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
d420	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
d440	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.0.attention.self:.
d460	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
d480	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65	g_bert.BertSdpaSelfAttention/vie
d4a0	77 5f 32 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74	w_2:.aten.view.defaultJ....pkg.t
d4c0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
d4e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
d500	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
d520	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
d540	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
d560	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
d580	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
d5a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
d5c0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
d5e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
d600	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
d620	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69	BertSdpaSelfAttention',.'aten.vi
d640	65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a6 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ew.default']J....pkg.torch.onnx.
d660	66 78 5f 6e 6f 64 65 12 8b 01 25 76 69 65 77 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	fx_node...%view_2.:.[num_users=1
d680	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
d6a0	70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c	ps.aten.view.default](args.=.(%l
d6c0	69 6e 65 61 72 5f 32 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20	inear_2,.[%sym_size_int_45,.-1,.
d6e0	38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67 2e 74 6f	8,.32]),.kwargs.=.{})J....pkg.to
d700	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
d720	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
d740	72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.0',.'bert.encoder.layer.
d760	30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	0.attention',.'bert.encoder.laye
d780	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 32 27 5d 4a 93	r.0.attention.self',.'view_2']J.
d7a0	09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08	...pkg.torch.onnx.stack_trace...
d7c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
d7e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
d800	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
d820	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
d840	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
d860	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
d880	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
d8a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
d8c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
d8e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
d900	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
d920	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
d940	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
d960	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
d980	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
d9a0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
d9c0	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
d9e0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
da00	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
da20	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
da40	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
da60	2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.558,.in.forward.....self_
da80	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69	attention_outputs.=.self.attenti
daa0	6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	on(...File."/home/hsiangnianian/
dac0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
dae0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
db00	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
db20	70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.488,.in.forward.....se
db40	6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22	lf_outputs.=.self.self(...File."
db60	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
db80	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
dba0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
dbc0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39	/bert/modeling_bert.py",.line.39
dbe0	33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c	3,.in.forward......view(bsz,.-1,
dc00	20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e	.self.num_attention_heads,.self.
dc20	61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a eb 12 0a 06 76 69 65 77 5f 32 12	attention_head_size).....view_2.
dc40	0b 74 72 61 6e 73 70 6f 73 65 5f 32 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 32 22 09	.transpose_2..node_transpose_2".
dc60	54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03 0a	Transpose*...perm@.@.@.@....J...
dc80	09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
dca0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
dcc0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
dce0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
dd00	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
dd20	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
dd40	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74	tEncoder/bert.encoder.layer.0:.t
dd60	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
dd80	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
dda0	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	er.0.attention:.transformers.mod
ddc0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
dde0	74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	tion/bert.encoder.layer.0.attent
de00	69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion.self:.transformers.models.be
de20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
de40	65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 32 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f	ention/transpose_2:.aten.transpo
de60	73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	se.intJ....pkg.torch.onnx.class_
de80	68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
dea0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
dec0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
dee0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
df00	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
df20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
df40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
df60	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
df80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
dfa0	6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ntion',.'transformers.models.ber
dfc0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
dfe0	6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 90 01	ntion',.'aten.transpose.int']J..
e000	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 76 25 74 72 61 6e 73	..pkg.torch.onnx.fx_node.v%trans
e020	70 6f 73 65 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	pose_2.:.[num_users=1].=.call_fu
e040	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61	nction[target=torch.ops.aten.tra
e060	6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 32 2c 20 31 2c 20	nspose.int](args.=.(%view_2,.1,.
e080	32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	2),.kwargs.=.{})J....pkg.torch.o
e0a0	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
e0c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
e0e0	65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	er.0',.'bert.encoder.layer.0.att
e100	65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	ention',.'bert.encoder.layer.0.a
e120	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 32 27 5d 4a e1	ttention.self',.'transpose_2']J.
e140	08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08	...pkg.torch.onnx.stack_trace...
e160	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
e180	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
e1a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
e1c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
e1e0	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
e200	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
e220	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
e240	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
e260	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
e280	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
e2a0	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
e2c0	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
e2e0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
e300	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
e320	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
e340	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
e360	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
e380	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
e3a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
e3c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
e3e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
e400	2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.558,.in.forward.....self_
e420	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69	attention_outputs.=.self.attenti
e440	6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	on(...File."/home/hsiangnianian/
e460	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
e480	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
e4a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
e4c0	70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.488,.in.forward.....se
e4e0	6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22	lf_outputs.=.self.self(...File."
e500	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
e520	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
e540	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
e560	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39	/bert/modeling_bert.py",.line.39
e580	34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20	4,.in.forward......transpose(1,.
e5a0	32 29 0a ae 14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 31 12 06 76 61 6c 5f 39 34 1a 0d 6e 6f 64 65	2).....transpose_1..val_94..node
e5c0	5f 53 68 61 70 65 5f 39 32 22 05 53 68 61 70 65 2a 0c 0a 05 73 74 61 72 74 18 00 a0 01 02 4a 8f	_Shape_92".Shape*...start.....J.
e5e0	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
e600	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
e620	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
e640	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
e660	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
e680	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
e6a0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a	ertEncoder/bert.encoder.layer.0:
e6c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
e6e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
e700	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.0.attention:.transformers.m
e720	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
e740	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	ention/bert.encoder.layer.0.atte
e760	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
e780	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
e7a0	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
e7c0	6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ntion:.aten.scaled_dot_product_a
e7e0	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	ttention.defaultJ....pkg.torch.o
e800	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
e820	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
e840	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
e860	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
e880	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
e8a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
e8c0	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
e8e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
e900	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
e920	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.BertAttention',.'transformers.
e940	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
e960	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	paSelfAttention',.'aten.scaled_d
e980	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0	ot_product_attention.default']J.
e9a0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61	...pkg.torch.onnx.fx_node...%sca
e9c0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d	led_dot_product_attention.:.[num
e9e0	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
ea00	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	=torch.ops.aten.scaled_dot_produ
ea20	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74	ct_attention.default](args.=.(%t
ea40	72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f	ranspose,.%transpose_1,.%transpo
ea60	73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	se_2,.%masked_fill),.kwargs.=.{}
ea80	29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
eaa0	12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
eac0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.0',.'bert.en
eae0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.0.attention',.'bert.
eb00	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.0.attention.self',
eb20	20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d	.'scaled_dot_product_attention']
eb40	4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
eb60	f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
eb80	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
eba0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
ebc0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
ebe0	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
ec00	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
ec20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
ec40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
ec60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
ec80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
eca0	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
ecc0	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
ece0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
ed00	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
ed20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
ed40	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
ed60	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
ed80	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
eda0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
edc0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
ede0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
ee00	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
ee20	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
ee40	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
ee60	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
ee80	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
eea0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
eec0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.488,.in.forward.....
eee0	73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65	self_outputs.=.self.self(...File
ef00	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
ef20	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
ef40	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
ef60	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
ef80	34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20	413,.in.forward.....attn_output.
efa0	3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74	=.torch.nn.functional.scaled_dot
efc0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ab 14 0a 06 76 61 6c 5f 39 34 0a 06	_product_attention(.....val_94..
efe0	76 61 6c 5f 36 35 0a 06 76 61 6c 5f 39 35 12 06 76 61 6c 5f 39 37 1a 0d 6e 6f 64 65 5f 53 6c 69	val_65..val_95..val_97..node_Sli
f000	63 65 5f 39 35 22 05 53 6c 69 63 65 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74	ce_95".SliceJ....namespace...:.t
f020	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
f040	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
f060	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
f080	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
f0a0	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
f0c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
f0e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.0:.transformers.mode
f100	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
f120	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.0.attention:.
f140	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
f160	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
f180	72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.0.attention.self:.transf
f1a0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
f1c0	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f	.BertSdpaSelfAttention/scaled_do
f1e0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64	t_product_attention:.aten.scaled
f200	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab	_dot_product_attention.defaultJ.
f220	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
f240	79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
f260	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
f280	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
f2a0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
f2c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
f2e0	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
f300	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
f320	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
f340	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
f360	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
f380	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
f3a0	27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	'aten.scaled_dot_product_attenti
f3c0	6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	on.default']J....pkg.torch.onnx.
f3e0	66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	fx_node...%scaled_dot_product_at
f400	74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	tention.:.[num_users=1].=.call_f
f420	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63	unction[target=torch.ops.aten.sc
f440	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
f460	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f	lt](args.=.(%transpose,.%transpo
f480	73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c	se_1,.%transpose_2,.%masked_fill
f4a0	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
f4c0	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
f4e0	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
f500	72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	r.0',.'bert.encoder.layer.0.atte
f520	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	ntion',.'bert.encoder.layer.0.at
f540	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention.self',.'scaled_dot_produ
f560	63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	ct_attention']J....pkg.torch.onn
f580	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
f5a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
f5c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
f5e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
f600	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
f620	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
f640	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
f660	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
f680	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
f6a0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
f6c0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
f6e0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
f700	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
f720	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
f740	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
f760	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
f780	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
f7a0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
f7c0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
f7e0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
f800	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
f820	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
f840	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
f860	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
f880	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
f8a0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
f8c0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
f8e0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
f900	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
f920	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
f940	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
f960	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
f980	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
f9a0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.413,.in.forward...
f9c0	20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f	..attn_output.=.torch.nn.functio
f9e0	6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	nal.scaled_dot_product_attention
fa00	28 0a ab 14 0a 06 76 61 6c 5f 39 34 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f 36 35 12 06 76 61	(.....val_94..val_98..val_65..va
fa20	6c 5f 39 39 1a 0d 6e 6f 64 65 5f 53 6c 69 63 65 5f 39 37 22 05 53 6c 69 63 65 4a 8f 04 0a 09 6e	l_99..node_Slice_97".SliceJ....n
fa40	61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
fa60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
fa80	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
faa0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
fac0	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
fae0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
fb00	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61	ncoder/bert.encoder.layer.0:.tra
fb20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
fb40	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
fb60	2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.0.attention:.transformers.model
fb80	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
fba0	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.0.attentio
fbc0	6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n.self:.transformers.models.bert
fbe0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
fc00	74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	tion/scaled_dot_product_attentio
fc20	6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	n:.aten.scaled_dot_product_atten
fc40	74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	tion.defaultJ....pkg.torch.onnx.
fc60	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
fc80	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
fca0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
fcc0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
fce0	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
fd00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
fd20	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
fd40	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
fd60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
fd80	72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	rtAttention',.'transformers.mode
fda0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
fdc0	6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	lfAttention',.'aten.scaled_dot_p
fde0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70	roduct_attention.default']J....p
fe00	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f	kg.torch.onnx.fx_node...%scaled_
fe20	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65	dot_product_attention.:.[num_use
fe40	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
fe60	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ch.ops.aten.scaled_dot_product_a
fe80	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73	ttention.default](args.=.(%trans
fea0	70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32	pose,.%transpose_1,.%transpose_2
fec0	2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01	,.%masked_fill),.kwargs.=.{})J..
fee0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b	..pkg.torch.onnx.name_scopes...[
ff00	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
ff20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.0',.'bert.encode
ff40	72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	r.layer.0.attention',.'bert.enco
ff60	64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63	der.layer.0.attention.self',.'sc
ff80	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a	aled_dot_product_attention']J...
ffa0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69	.pkg.torch.onnx.stack_trace...Fi
ffc0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
ffe0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
10000	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
10020	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
10040	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
10060	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
10080	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
100a0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
100c0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
100e0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
10100	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
10120	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
10140	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
10160	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
10180	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
101a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
101c0	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
101e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
10200	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
10220	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
10240	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
10260	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
10280	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
102a0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
102c0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
102e0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
10300	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
10320	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
10340	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
10360	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
10380	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
103a0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
103c0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c	ert/modeling_bert.py",.line.413,
103e0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f	.in.forward.....attn_output.=.to
10400	72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	rch.nn.functional.scaled_dot_pro
10420	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ad 14 0a 06 76 61 6c 5f 39 34 0a 07 76 61 6c 5f	duct_attention(.....val_94..val_
10440	31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76 61 6c 5f 31 30 31 1a 0d 6e 6f 64 65 5f 53 6c 69 63 65	100..val_98..val_101..node_Slice
10460	5f 39 39 22 05 53 6c 69 63 65 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61	_99".SliceJ....namespace...:.tra
10480	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
104a0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
104c0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
104e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
10500	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
10520	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
10540	64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.0:.transformers.models
10560	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
10580	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.0.attention:.tr
105a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
105c0	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
105e0	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.0.attention.self:.transfor
10600	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
10620	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f	ertSdpaSelfAttention/scaled_dot_
10640	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	product_attention:.aten.scaled_d
10660	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a	ot_product_attention.defaultJ...
10680	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
106a0	88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
106c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
106e0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
10700	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
10720	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
10740	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
10760	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
10780	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
107a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
107c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
107e0	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61	_bert.BertSdpaSelfAttention',.'a
10800	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
10820	2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
10840	5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	_node...%scaled_dot_product_atte
10860	6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ntion.:.[num_users=1].=.call_fun
10880	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c	ction[target=torch.ops.aten.scal
108a0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
108c0	5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65	](args.=.(%transpose,.%transpose
108e0	5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c	_1,.%transpose_2,.%masked_fill),
10900	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
10920	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
10940	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
10960	30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	0',.'bert.encoder.layer.0.attent
10980	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	ion',.'bert.encoder.layer.0.atte
109a0	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion.self',.'scaled_dot_product
109c0	5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	_attention']J....pkg.torch.onnx.
109e0	73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
10a00	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
10a20	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
10a40	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
10a60	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
10a80	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
10aa0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
10ac0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
10ae0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
10b00	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
10b20	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
10b40	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
10b60	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
10b80	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
10ba0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
10bc0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
10be0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
10c00	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
10c20	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
10c40	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
10c60	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
10c80	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.558,.in.for
10ca0	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20	ward.....self_attention_outputs.
10cc0	3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	=.self.attention(...File."/home/
10ce0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
10d00	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
10d20	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
10d40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20	modeling_bert.py",.line.488,.in.
10d60	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	forward.....self_outputs.=.self.
10d80	73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	self(...File."/home/hsiangniania
10da0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
10dc0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
10de0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
10e00	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.413,.in.forward.....
10e20	61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61	attn_output.=.torch.nn.functiona
10e40	6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a	l.scaled_dot_product_attention(.
10e60	bc 14 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f 39 39 0a 06 76 61 6c 5f 39 37 12 07 76 61 6c 5f	....val_65..val_99..val_97..val_
10e80	31 30 33 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 31 30 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04	103..node_Concat_101".Concat*...
10ea0	61 78 69 73 18 00 a0 01 02 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e	axis.....J....namespace...:.tran
10ec0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
10ee0	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
10f00	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
10f20	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
10f40	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
10f60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
10f80	65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.0:.transformers.models.
10fa0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
10fc0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.0.attention:.tra
10fe0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
11000	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
11020	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.0.attention.self:.transform
11040	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
11060	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rtSdpaSelfAttention/scaled_dot_p
11080	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	roduct_attention:.aten.scaled_do
110a0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e	t_product_attention.defaultJ....
110c0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88	pkg.torch.onnx.class_hierarchy..
110e0	03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
11100	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
11120	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
11140	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
11160	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
11180	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
111a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
111c0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
111e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72	odeling_bert.BertAttention',.'tr
11200	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
11220	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74	bert.BertSdpaSelfAttention',.'at
11240	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
11260	64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
11280	6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	node...%scaled_dot_product_atten
112a0	74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	tion.:.[num_users=1].=.call_func
112c0	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65	tion[target=torch.ops.aten.scale
112e0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d	d_dot_product_attention.default]
11300	28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	(args.=.(%transpose,.%transpose_
11320	31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20	1,.%transpose_2,.%masked_fill),.
11340	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
11360	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
11380	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30	.encoder',.'bert.encoder.layer.0
113a0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
113c0	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	on',.'bert.encoder.layer.0.atten
113e0	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion.self',.'scaled_dot_product_
11400	61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	attention']J....pkg.torch.onnx.s
11420	74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
11440	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
11460	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
11480	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
114a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
114c0	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
114e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
11500	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
11520	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
11540	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
11560	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
11580	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
115a0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
115c0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
115e0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
11600	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
11620	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
11640	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
11660	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
11680	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
116a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
116c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
116e0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
11700	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
11720	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
11740	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
11760	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
11780	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
117a0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
117c0	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
117e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
11800	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
11820	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
11840	2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61	.py",.line.413,.in.forward.....a
11860	74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c	ttn_output.=.torch.nn.functional
11880	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c1	.scaled_dot_product_attention(..
118a0	14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 31 0a 07 76 61 6c 5f 31 30 33 12 07 76 61 6c 5f 31 30 34	...transpose_1..val_103..val_104
118c0	1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 31 30 32 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61	..node_Reshape_102".Reshape*...a
118e0	6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20	llowzero.....J....namespace...:.
11900	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
11920	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
11940	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
11960	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
11980	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
119a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
119c0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.0:.transformers.mod
119e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
11a00	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.0.attention:
11a20	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
11a40	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
11a60	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73	er.layer.0.attention.self:.trans
11a80	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
11aa0	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64	t.BertSdpaSelfAttention/scaled_d
11ac0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65	ot_product_attention:.aten.scale
11ae0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a	d_dot_product_attention.defaultJ
11b00	ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
11b20	68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
11b40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
11b60	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
11b80	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
11ba0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
11bc0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
11be0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
11c00	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
11c20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
11c40	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
11c60	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
11c80	20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	.'aten.scaled_dot_product_attent
11ca0	69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ion.default']J....pkg.torch.onnx
11cc0	2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.fx_node...%scaled_dot_product_a
11ce0	74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	ttention.:.[num_users=1].=.call_
11d00	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73	function[target=torch.ops.aten.s
11d20	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
11d40	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70	ult](args.=.(%transpose,.%transp
11d60	6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c	ose_1,.%transpose_2,.%masked_fil
11d80	6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	l),.kwargs.=.{})J....pkg.torch.o
11da0	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
11dc0	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
11de0	65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	er.0',.'bert.encoder.layer.0.att
11e00	65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	ention',.'bert.encoder.layer.0.a
11e20	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ttention.self',.'scaled_dot_prod
11e40	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	uct_attention']J....pkg.torch.on
11e60	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
11e80	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
11ea0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
11ec0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
11ee0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
11f00	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
11f20	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
11f40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
11f60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
11f80	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
11fa0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
11fc0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
11fe0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
12000	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
12020	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
12040	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
12060	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
12080	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
120a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
120c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
120e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
12100	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
12120	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
12140	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
12160	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
12180	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
121a0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
121c0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20	rt/modeling_bert.py",.line.488,.
121e0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	in.forward.....self_outputs.=.se
12200	6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.self(...File."/home/hsiangnia
12220	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
12240	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
12260	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
12280	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.413,.in.forward..
122a0	20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69	...attn_output.=.torch.nn.functi
122c0	6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	onal.scaled_dot_product_attentio
122e0	6e 28 0a b7 14 0a 07 76 61 6c 5f 31 30 34 12 07 76 61 6c 5f 31 30 35 1a 12 6e 6f 64 65 5f 54 72	n(.....val_104..val_105..node_Tr
12300	61 6e 73 70 6f 73 65 5f 31 30 33 22 09 54 72 61 6e 73 70 6f 73 65 2a 0f 0a 04 70 65 72 6d 40 00	anspose_103".Transpose*...perm@.
12320	40 02 40 01 a0 01 07 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66	@.@....J....namespace...:.transf
12340	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
12360	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
12380	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
123a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
123c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
123e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
12400	2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.0:.transformers.models.be
12420	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
12440	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.0.attention:.trans
12460	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
12480	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
124a0	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.0.attention.self:.transformer
124c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
124e0	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
12500	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	duct_attention:.aten.scaled_dot_
12520	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b	product_attention.defaultJ....pk
12540	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b	g.torch.onnx.class_hierarchy...[
12560	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
12580	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
125a0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
125c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
125e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
12600	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
12620	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
12640	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
12660	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
12680	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
126a0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e	rt.BertSdpaSelfAttention',.'aten
126c0	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
126e0	66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
12700	64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	de...%scaled_dot_product_attenti
12720	6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	on.:.[num_users=1].=.call_functi
12740	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
12760	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
12780	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c	rgs.=.(%transpose,.%transpose_1,
127a0	20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	.%transpose_2,.%masked_fill),.kw
127c0	61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
127e0	6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
12800	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
12820	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.0.attention
12840	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
12860	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
12880	74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	tention']J....pkg.torch.onnx.sta
128a0	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
128c0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
128e0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
12900	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
12920	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
12940	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
12960	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
12980	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
129a0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
129c0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
129e0	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
12a00	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
12a20	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
12a40	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
12a60	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
12a80	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
12aa0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
12ac0	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
12ae0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
12b00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
12b20	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
12b40	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
12b60	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
12b80	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
12ba0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
12bc0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
12be0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
12c00	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
12c20	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
12c40	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
12c60	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
12c80	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
12ca0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
12cc0	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
12ce0	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
12d00	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a bd 14 0a	caled_dot_product_attention(....
12d20	07 76 61 6c 5f 31 30 31 0a 06 76 61 6c 5f 39 37 0a 06 76 61 6c 5f 39 39 12 07 76 61 6c 5f 31 30	.val_101..val_97..val_99..val_10
12d40	36 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 31 30 34 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78	6..node_Concat_104".Concat*...ax
12d60	69 73 18 00 a0 01 02 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66	is.....J....namespace...:.transf
12d80	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
12da0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
12dc0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
12de0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
12e00	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
12e20	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
12e40	2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.0:.transformers.models.be
12e60	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
12e80	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.0.attention:.trans
12ea0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
12ec0	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
12ee0	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.0.attention.self:.transformer
12f00	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
12f20	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
12f40	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	duct_attention:.aten.scaled_dot_
12f60	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b	product_attention.defaultJ....pk
12f80	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b	g.torch.onnx.class_hierarchy...[
12fa0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
12fc0	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
12fe0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
13000	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
13020	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
13040	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
13060	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
13080	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
130a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
130c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
130e0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e	rt.BertSdpaSelfAttention',.'aten
13100	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
13120	66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
13140	64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	de...%scaled_dot_product_attenti
13160	6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	on.:.[num_users=1].=.call_functi
13180	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
131a0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
131c0	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c	rgs.=.(%transpose,.%transpose_1,
131e0	20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	.%transpose_2,.%masked_fill),.kw
13200	61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
13220	6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
13240	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
13260	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.0.attention
13280	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
132a0	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
132c0	74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	tention']J....pkg.torch.onnx.sta
132e0	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
13300	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
13320	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
13340	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
13360	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
13380	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
133a0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
133c0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
133e0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
13400	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
13420	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
13440	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
13460	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
13480	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
134a0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
134c0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
134e0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
13500	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
13520	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
13540	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
13560	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
13580	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
135a0	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
135c0	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
135e0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
13600	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
13620	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
13640	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
13660	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
13680	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
136a0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
136c0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
136e0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
13700	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
13720	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
13740	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a bd 14 0a	caled_dot_product_attention(....
13760	07 76 61 6c 5f 31 30 35 0a 07 76 61 6c 5f 31 30 36 12 07 76 61 6c 5f 31 30 37 1a 10 6e 6f 64 65	.val_105..val_106..val_107..node
13780	5f 52 65 73 68 61 70 65 5f 31 30 35 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65	_Reshape_105".Reshape*...allowze
137a0	72 6f 18 00 a0 01 02 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66	ro.....J....namespace...:.transf
137c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
137e0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
13800	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
13820	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
13840	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
13860	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
13880	2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.0:.transformers.models.be
138a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
138c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.0.attention:.trans
138e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
13900	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
13920	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.0.attention.self:.transformer
13940	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
13960	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
13980	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	duct_attention:.aten.scaled_dot_
139a0	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b	product_attention.defaultJ....pk
139c0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b	g.torch.onnx.class_hierarchy...[
139e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
13a00	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
13a20	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
13a40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
13a60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
13a80	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
13aa0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
13ac0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
13ae0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
13b00	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
13b20	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e	rt.BertSdpaSelfAttention',.'aten
13b40	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
13b60	66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
13b80	64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	de...%scaled_dot_product_attenti
13ba0	6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	on.:.[num_users=1].=.call_functi
13bc0	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
13be0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
13c00	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c	rgs.=.(%transpose,.%transpose_1,
13c20	20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	.%transpose_2,.%masked_fill),.kw
13c40	61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
13c60	6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
13c80	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
13ca0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.0.attention
13cc0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
13ce0	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
13d00	74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	tention']J....pkg.torch.onnx.sta
13d20	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
13d40	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
13d60	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
13d80	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
13da0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
13dc0	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
13de0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
13e00	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
13e20	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
13e40	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
13e60	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
13e80	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
13ea0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
13ec0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
13ee0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
13f00	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
13f20	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
13f40	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
13f60	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
13f80	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
13fa0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
13fc0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
13fe0	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
14000	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
14020	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
14040	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
14060	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
14080	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
140a0	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
140c0	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
140e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
14100	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
14120	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
14140	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
14160	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
14180	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a a5 14 0a	caled_dot_product_attention(....
141a0	09 74 72 61 6e 73 70 6f 73 65 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 31 30 39 1a 0c 6e 6f	.transpose..val_108..val_109..no
141c0	64 65 5f 4d 75 6c 5f 31 30 37 22 03 4d 75 6c 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04	de_Mul_107".MulJ....namespace...
141e0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
14200	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
14220	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
14240	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
14260	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
14280	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
142a0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.0:.transformers.m
142c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
142e0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.0.attentio
14300	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
14320	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
14340	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.0.attention.self:.tra
14360	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
14380	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64	ert.BertSdpaSelfAttention/scaled
143a0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61	_dot_product_attention:.aten.sca
143c0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
143e0	74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
14400	72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
14420	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
14440	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
14460	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
14480	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
144a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
144c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
144e0	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
14500	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
14520	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
14540	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
14560	27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	',.'aten.scaled_dot_product_atte
14580	6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	ntion.default']J....pkg.torch.on
145a0	6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	nx.fx_node...%scaled_dot_product
145c0	5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	_attention.:.[num_users=1].=.cal
145e0	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
14600	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
14620	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e	fault](args.=.(%transpose,.%tran
14640	73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66	spose_1,.%transpose_2,.%masked_f
14660	69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ill),.kwargs.=.{})J....pkg.torch
14680	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
146a0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
146c0	61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	ayer.0',.'bert.encoder.layer.0.a
146e0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30	ttention',.'bert.encoder.layer.0
14700	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	.attention.self',.'scaled_dot_pr
14720	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	oduct_attention']J....pkg.torch.
14740	6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	onnx.stack_trace...File."/home/h
14760	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
14780	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
147a0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
147c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20	odeling_bert.py",.line.1676,.in.
147e0	66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28	forward.....outputs.=.self.bert(
14800	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
14820	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
14840	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
14860	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
14880	2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f	,.line.1000,.in.forward.....enco
148a0	64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69	der_outputs.=.self.encoder(...Fi
148c0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
148e0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
14900	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
14920	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
14940	65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70	e.650,.in.forward.....layer_outp
14960	75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.layer_module(...File."/hom
14980	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
149a0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
149c0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
149e0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69	t/modeling_bert.py",.line.558,.i
14a00	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74	n.forward.....self_attention_out
14a20	70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f	puts.=.self.attention(...File."/
14a40	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
14a60	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
14a80	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
14aa0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38	bert/modeling_bert.py",.line.488
14ac0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20	,.in.forward.....self_outputs.=.
14ae0	73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.self(...File."/home/hsiangn
14b00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
14b20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
14b40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
14b60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.413,.in.forward
14b80	0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63	.....attn_output.=.torch.nn.func
14ba0	74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	tional.scaled_dot_product_attent
14bc0	69 6f 6e 28 0a a3 14 0a 07 76 61 6c 5f 31 30 37 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 31	ion(.....val_107..val_108..val_1
14be0	31 31 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 31 30 39 22 03 4d 75 6c 4a 8f 04 0a 09 6e 61 6d 65 73 70	11..node_Mul_109".MulJ....namesp
14c00	61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
14c20	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
14c40	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
14c60	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
14c80	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
14ca0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
14cc0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.0:.transfor
14ce0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
14d00	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	ertLayer/bert.encoder.layer.0.at
14d20	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
14d40	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
14d60	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.0.attention.sel
14d80	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
14da0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
14dc0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74	scaled_dot_product_attention:.at
14de0	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
14e00	64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
14e20	5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
14e40	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
14e60	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
14e80	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
14ea0	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
14ec0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
14ee0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
14f00	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
14f20	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
14f40	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
14f60	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
14f80	65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ention',.'aten.scaled_dot_produc
14fa0	74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f	t_attention.default']J....pkg.to
14fc0	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rch.onnx.fx_node...%scaled_dot_p
14fe0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	roduct_attention.:.[num_users=1]
15000	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
15020	73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	s.aten.scaled_dot_product_attent
15040	69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c	ion.default](args.=.(%transpose,
15060	20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61	.%transpose_1,.%transpose_2,.%ma
15080	73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67	sked_fill),.kwargs.=.{})J....pkg
150a0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27	.torch.onnx.name_scopes...['',.'
150c0	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
150e0	6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.0',.'bert.encoder.lay
15100	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	er.0.attention',.'bert.encoder.l
15120	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f	ayer.0.attention.self',.'scaled_
15140	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e	dot_product_attention']J....pkg.
15160	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
15180	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
151a0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
151c0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
151e0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
15200	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
15220	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
15240	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
15260	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
15280	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
152a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
152c0	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
152e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
15300	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
15320	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
15340	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
15360	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
15380	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
153a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
153c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
153e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
15400	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
15420	35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69	558,.in.forward.....self_attenti
15440	6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46	on_outputs.=.self.attention(...F
15460	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
15480	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
154a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
154c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
154e0	6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70	ne.488,.in.forward.....self_outp
15500	75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.self(...File."/home/h
15520	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
15540	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
15560	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
15580	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66	odeling_bert.py",.line.413,.in.f
155a0	6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e	orward.....attn_output.=.torch.n
155c0	6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	n.functional.scaled_dot_product_
155e0	61 74 74 65 6e 74 69 6f 6e 28 0a a9 14 0a 07 76 61 6c 5f 31 30 39 0a 07 76 61 6c 5f 31 31 31 12	attention(.....val_109..val_111.
15600	07 76 61 6c 5f 31 31 32 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31 31 30 22 06 4d 61 74 4d 75	.val_112..node_MatMul_110".MatMu
15620	6c 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lJ....namespace...:.transformers
15640	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
15660	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
15680	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
156a0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
156c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
156e0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
15700	2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.0:.transformers.models.bert.mod
15720	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
15740	72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.0.attention:.transformer
15760	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
15780	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61	Attention/bert.encoder.layer.0.a
157a0	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ttention.self:.transformers.mode
157c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
157e0	6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	lfAttention/scaled_dot_product_a
15800	74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ttention:.aten.scaled_dot_produc
15820	74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63	t_attention.defaultJ....pkg.torc
15840	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
15860	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
15880	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
158a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
158c0	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
158e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
15900	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
15920	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
15940	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
15960	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
15980	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
159a0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65	tSdpaSelfAttention',.'aten.scale
159c0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27	d_dot_product_attention.default'
159e0	5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25	]J....pkg.torch.onnx.fx_node...%
15a00	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b	scaled_dot_product_attention.:.[
15a20	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
15a40	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	get=torch.ops.aten.scaled_dot_pr
15a60	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	oduct_attention.default](args.=.
15a80	28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e	(%transpose,.%transpose_1,.%tran
15aa0	73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d	spose_2,.%masked_fill),.kwargs.=
15ac0	20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f	.{})J....pkg.torch.onnx.name_sco
15ae0	70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	pes...['',.'bert',.'bert.encoder
15b00	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74	',.'bert.encoder.layer.0',.'bert
15b20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65	.encoder.layer.0.attention',.'be
15b40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.0.attention.sel
15b60	66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	f',.'scaled_dot_product_attentio
15b80	6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	n']J....pkg.torch.onnx.stack_tra
15ba0	63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
15bc0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
15be0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
15c00	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
15c20	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
15c40	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
15c60	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
15c80	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
15ca0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
15cc0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
15ce0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
15d00	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
15d20	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
15d40	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
15d60	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
15d80	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
15da0	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
15dc0	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
15de0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
15e00	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
15e20	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
15e40	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.558,.in.forward.....
15e60	73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74	self_attention_outputs.=.self.at
15e80	74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	tention(...File."/home/hsiangnia
15ea0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
15ec0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
15ee0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
15f00	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.488,.in.forward..
15f20	20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46	...self_outputs.=.self.self(...F
15f40	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
15f60	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
15f80	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
15fa0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
15fc0	6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70	ne.413,.in.forward.....attn_outp
15fe0	75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f	ut.=.torch.nn.functional.scaled_
16000	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a a7 14 0a 07 76 61 6c 5f 31	dot_product_attention(.....val_1
16020	31 32 0a 0b 6d 61 73 6b 65 64 5f 66 69 6c 6c 12 07 76 61 6c 5f 31 31 33 1a 0c 6e 6f 64 65 5f 41	12..masked_fill..val_113..node_A
16040	64 64 5f 31 31 31 22 03 41 64 64 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72	dd_111".AddJ....namespace...:.tr
16060	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
16080	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
160a0	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
160c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertModel/bert.enco
160e0	64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	der:.transformers.models.bert.mo
16100	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63	deling_bert.BertEncoder/bert.enc
16120	6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	oder.layer.0:.transformers.model
16140	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62	s.bert.modeling_bert.BertLayer/b
16160	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74	ert.encoder.layer.0.attention:.t
16180	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
161a0	5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	_bert.BertAttention/bert.encoder
161c0	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f	.layer.0.attention.self:.transfo
161e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
16200	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74	BertSdpaSelfAttention/scaled_dot
16220	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f	_product_attention:.aten.scaled_
16240	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03	dot_product_attention.defaultJ..
16260	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
16280	12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
162a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
162c0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
162e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
16300	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
16320	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
16340	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
16360	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
16380	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
163a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
163c0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
163e0	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
16400	6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	n.default']J....pkg.torch.onnx.f
16420	78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	x_node...%scaled_dot_product_att
16440	65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	ention.:.[num_users=1].=.call_fu
16460	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61	nction[target=torch.ops.aten.sca
16480	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
164a0	74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73	t](args.=.(%transpose,.%transpos
164c0	65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29	e_1,.%transpose_2,.%masked_fill)
164e0	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
16500	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
16520	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
16540	2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	.0',.'bert.encoder.layer.0.atten
16560	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	tion',.'bert.encoder.layer.0.att
16580	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ention.self',.'scaled_dot_produc
165a0	74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	t_attention']J....pkg.torch.onnx
165c0	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
165e0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
16600	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
16620	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
16640	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
16660	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
16680	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
166a0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
166c0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
166e0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
16700	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
16720	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
16740	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
16760	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
16780	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
167a0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
167c0	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
167e0	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
16800	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
16820	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
16840	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
16860	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
16880	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
168a0	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
168c0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
168e0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
16900	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
16920	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
16940	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
16960	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
16980	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
169a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
169c0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
169e0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.413,.in.forward....
16a00	20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e	.attn_output.=.torch.nn.function
16a20	61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28	al.scaled_dot_product_attention(
16a40	0a b8 14 0a 07 76 61 6c 5f 31 31 33 12 07 76 61 6c 5f 31 31 34 1a 10 6e 6f 64 65 5f 53 6f 66 74	.....val_113..val_114..node_Soft
16a60	6d 61 78 5f 31 31 32 22 07 53 6f 66 74 6d 61 78 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff	max_112".Softmax*...axis........
16a80	ff ff 01 a0 01 02 4a 8f 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f	......J....namespace...:.transfo
16aa0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
16ac0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
16ae0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
16b00	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
16b20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
16b40	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
16b60	6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.0:.transformers.models.ber
16b80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
16ba0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.0.attention:.transf
16bc0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
16be0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
16c00	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.0.attention.self:.transformers
16c20	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
16c40	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	dpaSelfAttention/scaled_dot_prod
16c60	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	uct_attention:.aten.scaled_dot_p
16c80	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67	roduct_attention.defaultJ....pkg
16ca0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27	.torch.onnx.class_hierarchy...['
16cc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
16ce0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
16d00	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
16d20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertModel',.'transfo
16d40	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
16d60	42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	BertEncoder',.'transformers.mode
16d80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27	ls.bert.modeling_bert.BertLayer'
16da0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
16dc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	ling_bert.BertAttention',.'trans
16de0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
16e00	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e	t.BertSdpaSelfAttention',.'aten.
16e20	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
16e40	61 75 6c 74 27 5d 4a e0 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
16e60	65 12 c5 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	e...%scaled_dot_product_attentio
16e80	6e 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	n.:.[num_users=1].=.call_functio
16ea0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
16ec0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
16ee0	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20	gs.=.(%transpose,.%transpose_1,.
16f00	25 74 72 61 6e 73 70 6f 73 65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61	%transpose_2,.%masked_fill),.kwa
16f20	72 67 73 20 3d 20 7b 7d 29 4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
16f40	65 5f 73 63 6f 70 65 73 12 9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
16f60	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20	coder',.'bert.encoder.layer.0',.
16f80	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27	'bert.encoder.layer.0.attention'
16fa0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.0.attentio
16fc0	6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n.self',.'scaled_dot_product_att
16fe0	65 6e 74 69 6f 6e 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	ention']J....pkg.torch.onnx.stac
17000	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
17020	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
17040	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
17060	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
17080	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
170a0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
170c0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
170e0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
17100	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
17120	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
17140	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
17160	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
17180	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
171a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
171c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
171e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
17200	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
17220	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
17240	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
17260	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
17280	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
172a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
172c0	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
172e0	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
17300	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
17320	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
17340	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
17360	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
17380	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
173a0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
173c0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
173e0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
17400	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
17420	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
17440	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
17460	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a d4 14 0a 07	aled_dot_product_attention(.....
17480	76 61 6c 5f 31 31 34 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 32 12 1c 73 63 61 6c 65 64 5f 64 6f 74	val_114..transpose_2..scaled_dot
174a0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 1a 21 6e 6f 64 65 5f 73 63 61 6c 65 64 5f	_product_attention.!node_scaled_
174c0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 22 06 4d 61 74 4d 75 6c 4a 8f 04	dot_product_attention".MatMulJ..
174e0	0a 09 6e 61 6d 65 73 70 61 63 65 12 81 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
17500	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
17520	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
17540	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
17560	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
17580	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
175a0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20	rtEncoder/bert.encoder.layer.0:.
175c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
175e0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
17600	79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.0.attention:.transformers.mo
17620	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
17640	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	ntion/bert.encoder.layer.0.atten
17660	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
17680	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
176a0	74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	tention/scaled_dot_product_atten
176c0	74 69 6f 6e 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	tion:.aten.scaled_dot_product_at
176e0	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	tention.defaultJ....pkg.torch.on
17700	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
17720	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
17740	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
17760	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
17780	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
177a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
177c0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
177e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
17800	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
17820	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
17840	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
17860	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	aSelfAttention',.'aten.scaled_do
17880	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e0 01	t_product_attention.default']J..
178a0	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c5 01 25 73 63 61 6c	..pkg.torch.onnx.fx_node...%scal
178c0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 20 3a 20 5b 6e 75 6d 5f	ed_dot_product_attention.:.[num_
178e0	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
17900	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	torch.ops.aten.scaled_dot_produc
17920	74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72	t_attention.default](args.=.(%tr
17940	61 6e 73 70 6f 73 65 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 2c 20 25 74 72 61 6e 73 70 6f 73	anspose,.%transpose_1,.%transpos
17960	65 5f 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	e_2,.%masked_fill),.kwargs.=.{})
17980	4a bc 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
179a0	9d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
179c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.0',.'bert.enc
179e0	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.0.attention',.'bert.e
17a00	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.0.attention.self',.
17a20	27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 27 5d 4a	'scaled_dot_product_attention']J
17a40	90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1	....pkg.torch.onnx.stack_trace..
17a60	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
17a80	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
17aa0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
17ac0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
17ae0	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
17b00	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
17b20	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
17b40	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
17b60	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
17b80	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
17ba0	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
17bc0	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
17be0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
17c00	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
17c20	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
17c40	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
17c60	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
17c80	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
17ca0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
17cc0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
17ce0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
17d00	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
17d20	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
17d40	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
17d60	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
17d80	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
17da0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
17dc0	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
17de0	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
17e00	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
17e20	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
17e40	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
17e60	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
17e80	31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d	13,.in.forward.....attn_output.=
17ea0	20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	.torch.nn.functional.scaled_dot_
17ec0	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b1 13 0a 1c 73 63 61 6c 65 64 5f 64 6f	product_attention(.....scaled_do
17ee0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 12 0b 74 72 61 6e 73 70 6f 73 65 5f 33	t_product_attention..transpose_3
17f00	1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 33 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a	..node_transpose_3".Transpose*..
17f20	04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d9	.perm@.@.@.@....J....namespace..
17f40	03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
17f60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
17f80	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
17fa0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
17fc0	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
17fe0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
18000	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.0:.transformers.
18020	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
18040	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.0.attenti
18060	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
18080	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
180a0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.0.attention.self:.tr
180c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
180e0	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73	bert.BertSdpaSelfAttention/trans
18100	70 6f 73 65 5f 33 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70	pose_3:.aten.transpose.intJ....p
18120	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02	kg.torch.onnx.class_hierarchy...
18140	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
18160	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
18180	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
181a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
181c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
181e0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
18200	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
18220	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
18240	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
18260	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
18280	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
182a0	6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a a7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	n.transpose.int']J....pkg.torch.
182c0	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8c 01 25 74 72 61 6e 73 70 6f 73 65 5f 33 20 3a 20 5b 6e	onnx.fx_node...%transpose_3.:.[n
182e0	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
18300	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d	et=torch.ops.aten.transpose.int]
18320	28 61 72 67 73 20 3d 20 28 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	(args.=.(%scaled_dot_product_att
18340	65 6e 74 69 6f 6e 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a	ention,.1,.2),.kwargs.=.{})J....
18360	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
18380	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
183a0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.0',.'bert.encoder.
183c0	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.0.attention',.'bert.encode
183e0	72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e	r.layer.0.attention.self',.'tran
18400	73 70 6f 73 65 5f 33 27 5d 4a fa 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	spose_3']J....pkg.torch.onnx.sta
18420	63 6b 5f 74 72 61 63 65 12 db 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
18440	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
18460	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
18480	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
184a0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
184c0	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
184e0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
18500	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
18520	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
18540	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
18560	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
18580	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
185a0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
185c0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
185e0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
18600	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
18620	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
18640	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
18660	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
18680	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
186a0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
186c0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
186e0	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
18700	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
18720	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
18740	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
18760	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
18780	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
187a0	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
187c0	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
187e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
18800	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
18820	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
18840	79 22 2c 20 6c 69 6e 65 20 34 32 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.422,.in.forward.....att
18860	6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 74 72 61 6e 73 70 6f 73 65	n_output.=.attn_output.transpose
18880	28 31 2c 20 32 29 0a b8 13 0a 05 76 61 6c 5f 30 0a 05 76 61 6c 5f 32 0a 07 76 61 6c 5f 31 31 38	(1,.2).....val_0..val_2..val_118
188a0	12 07 76 61 6c 5f 31 31 39 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 31 31 37 22 06 43 6f 6e 63	..val_119..node_Concat_117".Conc
188c0	61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03	at*...axis.....J....namespace...
188e0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
18900	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
18920	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
18940	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
18960	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
18980	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
189a0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.0:.transformers.m
189c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
189e0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.0.attentio
18a00	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
18a20	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
18a40	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.0.attention.self:.tra
18a60	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
18a80	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 33	ert.BertSdpaSelfAttention/view_3
18aa0	3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63	:.aten.view.defaultJ....pkg.torc
18ac0	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
18ae0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
18b00	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
18b20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
18b40	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
18b60	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
18b80	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
18ba0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
18bc0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
18be0	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
18c00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
18c20	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e	tSdpaSelfAttention',.'aten.view.
18c40	64 65 66 61 75 6c 74 27 5d 4a b5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
18c60	6e 6f 64 65 12 9a 01 25 76 69 65 77 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	node...%view_3.:.[num_users=1].=
18c80	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
18ca0	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e	aten.view.default](args.=.(%tran
18cc0	73 70 6f 73 65 5f 33 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d	spose_3,.[%sym_size_int_45,.%sym
18ce0	5f 73 69 7a 65 5f 69 6e 74 5f 34 38 2c 20 32 35 36 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	_size_int_48,.256]),.kwargs.=.{}
18d00	29 4a a6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
18d20	12 87 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
18d40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.0',.'bert.en
18d60	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.0.attention',.'bert.
18d80	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.0.attention.self',
18da0	20 27 76 69 65 77 5f 33 27 5d 4a 94 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	.'view_3']J....pkg.torch.onnx.st
18dc0	61 63 6b 5f 74 72 61 63 65 12 f5 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
18de0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
18e00	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
18e20	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
18e40	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
18e60	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
18e80	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
18ea0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
18ec0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
18ee0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
18f00	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
18f20	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
18f40	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
18f60	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
18f80	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
18fa0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
18fc0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
18fe0	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
19000	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
19020	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
19040	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
19060	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
19080	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
190a0	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
190c0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
190e0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
19100	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
19120	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
19140	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
19160	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
19180	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
191a0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
191c0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
191e0	70 79 22 2c 20 6c 69 6e 65 20 34 32 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74	py",.line.423,.in.forward.....at
19200	74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 72 65 73 68 61 70 65 28	tn_output.=.attn_output.reshape(
19220	62 73 7a 2c 20 74 67 74 5f 6c 65 6e 2c 20 73 65 6c 66 2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65	bsz,.tgt_len,.self.all_head_size
19240	29 0a b8 13 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 33 0a 07 76 61 6c 5f 31 31 39 12 06 76 69 65 77	).....transpose_3..val_119..view
19260	5f 33 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 33 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f	_3..node_view_3".Reshape*...allo
19280	77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03 3a 20 74 72 61	wzero.....J....namespace...:.tra
192a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
192c0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
192e0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
19300	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
19320	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
19340	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
19360	64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.0:.transformers.models
19380	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
193a0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.0.attention:.tr
193c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
193e0	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
19400	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.0.attention.self:.transfor
19420	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
19440	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 33 3a 20 61 74 65	ertSdpaSelfAttention/view_3:.ate
19460	6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	n.view.defaultJ....pkg.torch.onn
19480	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
194a0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
194c0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
194e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
19500	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
19520	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
19540	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
19560	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
19580	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
195a0	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
195c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
195e0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75	SelfAttention',.'aten.view.defau
19600	6c 74 27 5d 4a b5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
19620	9a 01 25 76 69 65 77 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	..%view_3.:.[num_users=1].=.call
19640	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
19660	76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65	view.default](args.=.(%transpose
19680	5f 33 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65	_3,.[%sym_size_int_45,.%sym_size
196a0	5f 69 6e 74 5f 34 38 2c 20 32 35 36 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a	_int_48,.256]),.kwargs.=.{})J...
196c0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27	.pkg.torch.onnx.name_scopes...['
196e0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
19700	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.0',.'bert.encoder
19720	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.0.attention',.'bert.encod
19740	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65	er.layer.0.attention.self',.'vie
19760	77 5f 33 27 5d 4a 94 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	w_3']J....pkg.torch.onnx.stack_t
19780	72 61 63 65 12 f5 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
197a0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
197c0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
197e0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
19800	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
19820	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
19840	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
19860	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
19880	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
198a0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
198c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
198e0	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
19900	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
19920	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
19940	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
19960	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
19980	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
199a0	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
199c0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
199e0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
19a00	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
19a20	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
19a40	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
19a60	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
19a80	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
19aa0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
19ac0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
19ae0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
19b00	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
19b20	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
19b40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
19b60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
19b80	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
19ba0	6c 69 6e 65 20 34 32 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75	line.423,.in.forward.....attn_ou
19bc0	74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 72 65 73 68 61 70 65 28 62 73 7a 2c 20	tput.=.attn_output.reshape(bsz,.
19be0	74 67 74 5f 6c 65 6e 2c 20 73 65 6c 66 2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65 29 0a c5 16 0a	tgt_len,.self.all_head_size)....
19c00	06 76 69 65 77 5f 33 0a 07 76 61 6c 5f 31 32 30 12 07 76 61 6c 5f 31 32 31 1a 0f 6e 6f 64 65 5f	.view_3..val_120..val_121..node_
19c20	4d 61 74 4d 75 6c 5f 31 31 39 22 06 4d 61 74 4d 75 6c 4a ac 04 0a 09 6e 61 6d 65 73 70 61 63 65	MatMul_119".MatMulJ....namespace
19c40	12 9e 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
19c60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
19c80	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
19ca0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
19cc0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
19ce0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
19d00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.0:.transformer
19d20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
19d40	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	Layer/bert.encoder.layer.0.atten
19d60	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
19d80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
19da0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.0.attention.output
19dc0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
19de0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63	ing_bert.BertSelfOutput/bert.enc
19e00	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65	oder.layer.0.attention.output.de
19e20	6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	nse:.torch.nn.modules.linear.Lin
19e40	65 61 72 2f 6c 69 6e 65 61 72 5f 33 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear/linear_3:.aten.linear.defaul
19e60	74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
19e80	72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
19ea0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
19ec0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
19ee0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
19f00	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
19f20	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
19f40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
19f60	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
19f80	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
19fa0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
19fc0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72	eling_bert.BertSelfOutput',.'tor
19fe0	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61	ch.nn.modules.linear.Linear',.'a
1a000	74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72	ten.linear.default']J....pkg.tor
1a020	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 da 01 25 6c 69 6e 65 61 72 5f 33 20 3a 20 5b 6e	ch.onnx.fx_node...%linear_3.:.[n
1a040	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
1a060	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	et=torch.ops.aten.linear.default
1a080	5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 33 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64	](args.=.(%view_3,.%p_bert_encod
1a0a0	65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73	er_layer_0_attention_output_dens
1a0c0	65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	e_weight,.%p_bert_encoder_layer_
1a0e0	30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20	0_attention_output_dense_bias),.
1a100	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
1a120	6e 61 6d 65 5f 73 63 6f 70 65 73 12 ba 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
1a140	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30	.encoder',.'bert.encoder.layer.0
1a160	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
1a180	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	on',.'bert.encoder.layer.0.atten
1a1a0	74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	tion.output',.'bert.encoder.laye
1a1c0	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69	r.0.attention.output.dense',.'li
1a1e0	6e 65 61 72 5f 33 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	near_3']J....pkg.torch.onnx.stac
1a200	6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
1a220	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
1a240	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
1a260	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
1a280	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
1a2a0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
1a2c0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
1a2e0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
1a300	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
1a320	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
1a340	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
1a360	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
1a380	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
1a3a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
1a3c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
1a3e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
1a400	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
1a420	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
1a440	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
1a460	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
1a480	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
1a4a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
1a4c0	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
1a4e0	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
1a500	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
1a520	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
1a540	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
1a560	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.497,.in.forw
1a580	61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e	ard.....attention_output.=.self.
1a5a0	6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73	output(self_outputs[0],.hidden_s
1a5c0	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
1a5e0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
1a600	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
1a620	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
1a640	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.436,.in.forward....
1a660	20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64	.hidden_states.=.self.dense(hidd
1a680	65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	en_states)...File."/home/hsiangn
1a6a0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
1a6c0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
1a6e0	74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e	torch/nn/modules/linear.py",.lin
1a700	65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c	e.134,.in.forward.....return.F.l
1a720	69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62	inear(input,.self.weight,.self.b
1a740	69 61 73 29 0a eb 16 0a 07 76 61 6c 5f 31 32 31 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ias).....val_121.0bert.encoder.l
1a760	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69	ayer.0.attention.output.dense.bi
1a780	61 73 12 08 6c 69 6e 65 61 72 5f 33 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 22 03 41 64 64	as..linear_3..node_linear_3".Add
1a7a0	4a ac 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9e 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
1a7c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
1a7e0	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
1a800	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
1a820	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
1a840	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1a860	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
1a880	30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	0:.transformers.models.bert.mode
1a8a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
1a8c0	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.layer.0.attention:.transformers
1a8e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
1a900	74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	ttention/bert.encoder.layer.0.at
1a920	74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	tention.output:.transformers.mod
1a940	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f	els.bert.modeling_bert.BertSelfO
1a960	75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	utput/bert.encoder.layer.0.atten
1a980	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75	tion.output.dense:.torch.nn.modu
1a9a0	6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 3a 20 61 74 65 6e	les.linear.Linear/linear_3:.aten
1a9c0	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.linear.defaultJ....pkg.torch.on
1a9e0	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
1aa00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1aa20	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
1aa40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1aa60	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
1aa80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
1aaa0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
1aac0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
1aae0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1ab00	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
1ab20	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c	odels.bert.modeling_bert.BertSel
1ab40	66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65	fOutput',.'torch.nn.modules.line
1ab60	61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	ar.Linear',.'aten.linear.default
1ab80	27 5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 da 01	']J....pkg.torch.onnx.fx_node...
1aba0	25 6c 69 6e 65 61 72 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	%linear_3.:.[num_users=1].=.call
1abc0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
1abe0	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 33 2c	linear.default](args.=.(%view_3,
1ac00	20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69	.%p_bert_encoder_layer_0_attenti
1ac20	6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f	on_output_dense_weight,.%p_bert_
1ac40	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	encoder_layer_0_attention_output
1ac60	5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d9 01 0a 1a 70	_dense_bias),.kwargs.=.{})J....p
1ac80	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 ba 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
1aca0	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
1acc0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.0',.'bert.encoder.l
1ace0	61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayer.0.attention',.'bert.encoder
1ad00	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72	.layer.0.attention.output',.'ber
1ad20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70	t.encoder.layer.0.attention.outp
1ad40	75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74	ut.dense',.'linear_3']J....pkg.t
1ad60	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
1ad80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
1ada0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
1adc0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
1ade0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
1ae00	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
1ae20	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
1ae40	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
1ae60	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
1ae80	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
1aea0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
1aec0	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
1aee0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
1af00	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
1af20	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
1af40	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
1af60	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
1af80	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
1afa0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
1afc0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
1afe0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
1b000	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
1b020	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
1b040	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
1b060	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
1b080	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
1b0a0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
1b0c0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
1b0e0	65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f	e.497,.in.forward.....attention_
1b100	6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74	output.=.self.output(self_output
1b120	73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f	s[0],.hidden_states)...File."/ho
1b140	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
1b160	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
1b180	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
1b1a0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20	rt/modeling_bert.py",.line.436,.
1b1c0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73	in.forward.....hidden_states.=.s
1b1e0	65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20	elf.dense(hidden_states)...File.
1b200	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
1b220	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
1b240	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c	site-packages/torch/nn/modules/l
1b260	69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	inear.py",.line.134,.in.forward.
1b280	20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e	....return.F.linear(input,.self.
1b2a0	77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 8d 13 0a 08 6c 69 6e 65 61 72 5f 33 0a	weight,.self.bias).....linear_3.
1b2c0	0a 6c 61 79 65 72 5f 6e 6f 72 6d 12 07 61 64 64 5f 31 32 38 1a 0c 6e 6f 64 65 5f 61 64 64 5f 31	.layer_norm..add_128..node_add_1
1b2e0	32 38 22 03 41 64 64 4a db 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 cd 03 3a 20 74 72 61 6e 73 66	28".AddJ....namespace...:.transf
1b300	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1b320	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
1b340	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
1b360	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
1b380	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
1b3a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
1b3c0	2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.0:.transformers.models.be
1b3e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
1b400	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.0.attention:.trans
1b420	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
1b440	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
1b460	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d	er.0.attention.output:.transform
1b480	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1b4a0	72 74 53 65 6c 66 4f 75 74 70 75 74 2f 61 64 64 5f 31 32 38 3a 20 61 74 65 6e 2e 61 64 64 2e 54	rtSelfOutput/add_128:.aten.add.T
1b4c0	65 6e 73 6f 72 4a 8a 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	ensorJ....pkg.torch.onnx.class_h
1b4e0	69 65 72 61 72 63 68 79 12 e7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
1b500	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
1b520	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
1b540	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
1b560	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
1b580	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
1b5a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1b5c0	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
1b5e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
1b600	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
1b620	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20	.modeling_bert.BertSelfOutput',.
1b640	27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 8c 01 0a 16 70 6b 67 2e 74 6f 72 63 68	'aten.add.Tensor']J....pkg.torch
1b660	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 72 25 61 64 64 5f 31 32 38 20 3a 20 5b 6e 75 6d 5f 75	.onnx.fx_node.r%add_128.:.[num_u
1b680	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
1b6a0	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d	orch.ops.aten.add.Tensor](args.=
1b6c0	20 28 25 63 6c 6f 6e 65 5f 32 2c 20 25 63 6c 6f 6e 65 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	.(%clone_2,.%clone),.kwargs.=.{}
1b6e0	29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
1b700	12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
1b720	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.0',.'bert.en
1b740	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.0.attention',.'bert.
1b760	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.0.attention.output
1b780	27 2c 20 27 61 64 64 5f 31 32 38 27 5d 4a b2 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	',.'add_128']J....pkg.torch.onnx
1b7a0	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 93 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
1b7c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
1b7e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
1b800	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
1b820	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
1b840	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
1b860	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
1b880	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
1b8a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
1b8c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
1b8e0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
1b900	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
1b920	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
1b940	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
1b960	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
1b980	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
1b9a0	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
1b9c0	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
1b9e0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
1ba00	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
1ba20	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
1ba40	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
1ba60	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
1ba80	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
1baa0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
1bac0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
1bae0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
1bb00	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e	/modeling_bert.py",.line.497,.in
1bb20	20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20	.forward.....attention_output.=.
1bb40	73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64	self.output(self_outputs[0],.hid
1bb60	64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	den_states)...File."/home/hsiang
1bb80	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
1bba0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
1bbc0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
1bbe0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.438,.in.forwar
1bc00	64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72	d.....hidden_states.=.self.Layer
1bc20	4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f	Norm(hidden_states.+.input_tenso
1bc40	72 29 0a c5 18 0a 07 61 64 64 5f 31 32 38 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	r).....add_128.6bert.encoder.lay
1bc60	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e	er.0.attention.output.LayerNorm.
1bc80	77 65 69 67 68 74 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	weight.4bert.encoder.layer.0.att
1bca0	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61	ention.output.LayerNorm.bias..la
1bcc0	79 65 72 5f 6e 6f 72 6d 5f 31 1a 11 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 22 12 4c	yer_norm_1..node_layer_norm_1".L
1bce0	61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18	ayerNormalization*...stash_type.
1bd00	01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18	....*...epsilon....+...*...axis.
1bd20	ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a c2 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 b4 04 3a 20	.............J....namespace...:.
1bd40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
1bd60	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
1bd80	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
1bda0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
1bdc0	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
1bde0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
1be00	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.0:.transformers.mod
1be20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
1be40	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.0.attention:
1be60	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
1be80	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
1bea0	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61	er.layer.0.attention.output:.tra
1bec0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
1bee0	65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ert.BertSelfOutput/bert.encoder.
1bf00	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f	layer.0.attention.output.LayerNo
1bf20	72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69	rm:.torch.nn.modules.normalizati
1bf40	6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 3a 20 61 74 65 6e 2e	on.LayerNorm/layer_norm_1:.aten.
1bf60	6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a be 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	layer_norm.defaultJ....pkg.torch
1bf80	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 9b 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
1bfa0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1bfc0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
1bfe0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
1c000	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
1c020	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
1c040	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
1c060	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
1c080	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
1c0a0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
1c0c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
1c0e0	53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e	SelfOutput',.'torch.nn.modules.n
1c100	6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c	ormalization.LayerNorm',.'aten.l
1c120	61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 94 02 0a 16 70 6b 67 2e 74 6f 72 63	ayer_norm.default']J....pkg.torc
1c140	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 f9 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 20 3a	h.onnx.fx_node...%layer_norm_1.:
1c160	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=2].=.call_function[t
1c180	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e	arget=torch.ops.aten.layer_norm.
1c1a0	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 31 32 38 2c 20 5b 32 35 36 5d	default](args.=.(%add_128,.[256]
1c1c0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_0_attent
1c1e0	69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f	ion_output_layernorm_weight,.%p_
1c200	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	bert_encoder_layer_0_attention_o
1c220	75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77	utput_layernorm_bias,.1e-12),.kw
1c240	61 72 67 73 20 3d 20 7b 7d 29 4a e1 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
1c260	6d 65 5f 73 63 6f 70 65 73 12 c2 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
1c280	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
1c2a0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.0.attention
1c2c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.0.attenti
1c2e0	6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	on.output',.'bert.encoder.layer.
1c300	30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27	0.attention.output.LayerNorm',.'
1c320	6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	layer_norm_1']J....pkg.torch.onn
1c340	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
1c360	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
1c380	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
1c3a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
1c3c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
1c3e0	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
1c400	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
1c420	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
1c440	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
1c460	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
1c480	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
1c4a0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
1c4c0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
1c4e0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
1c500	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
1c520	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
1c540	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
1c560	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
1c580	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
1c5a0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
1c5c0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
1c5e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
1c600	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
1c620	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
1c640	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
1c660	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
1c680	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
1c6a0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69	t/modeling_bert.py",.line.497,.i
1c6c0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d	n.forward.....attention_output.=
1c6e0	20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69	.self.output(self_outputs[0],.hi
1c700	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
1c720	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
1c740	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
1c760	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
1c780	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.438,.in.forwa
1c7a0	72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65	rd.....hidden_states.=.self.Laye
1c7c0	72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73	rNorm(hidden_states.+.input_tens
1c7e0	6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	or)...File."/home/hsiangnianian/
1c800	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
1c820	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e	python3.10/site-packages/torch/n
1c840	6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e	n/modules/normalization.py",.lin
1c860	65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c	e.229,.in.forward.....return.F.l
1c880	61 79 65 72 5f 6e 6f 72 6d 28 0a b6 13 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 0a 07 76 61 6c	ayer_norm(.....layer_norm_1..val
1c8a0	5f 31 32 34 12 07 76 61 6c 5f 31 32 35 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31 32 31 22 06	_124..val_125..node_MatMul_121".
1c8c0	4d 61 74 4d 75 6c 4a d1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c3 03 3a 20 74 72 61 6e 73 66 6f	MatMulJ....namespace...:.transfo
1c8e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
1c900	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
1c920	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
1c940	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
1c960	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
1c980	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
1c9a0	6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.0:.transformers.models.ber
1c9c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
1c9e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61	ncoder.layer.0.intermediate:.tra
1ca00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
1ca20	65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ert.BertIntermediate/bert.encode
1ca40	72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f	r.layer.0.intermediate.dense:.to
1ca60	72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e	rch.nn.modules.linear.Linear/lin
1ca80	65 61 72 5f 34 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70	ear_4:.aten.linear.defaultJ....p
1caa0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02	kg.torch.onnx.class_hierarchy...
1cac0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
1cae0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
1cb00	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
1cb20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
1cb40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
1cb60	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
1cb80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
1cba0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
1cbc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27	deling_bert.BertIntermediate',.'
1cbe0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c	torch.nn.modules.linear.Linear',
1cc00	20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f3 01 0a 16 70 6b 67 2e	.'aten.linear.default']J....pkg.
1cc20	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d8 01 25 6c 69 6e 65 61 72 5f 34 20 3a	torch.onnx.fx_node...%linear_4.:
1cc40	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=1].=.call_function[t
1cc60	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61	arget=torch.ops.aten.linear.defa
1cc80	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 2c 20 25 70 5f 62	ult](args.=.(%layer_norm_1,.%p_b
1cca0	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 69 6e 74 65 72 6d 65 64 69 61 74 65	ert_encoder_layer_0_intermediate
1ccc0	5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c	_dense_weight,.%p_bert_encoder_l
1cce0	61 79 65 72 5f 30 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c	ayer_0_intermediate_dense_bias),
1cd00	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a af 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
1cd20	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 90 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
1cd40	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
1cd60	30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d	0',.'bert.encoder.layer.0.interm
1cd80	65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69	ediate',.'bert.encoder.layer.0.i
1cda0	6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 34 27 5d 4a	ntermediate.dense',.'linear_4']J
1cdc0	81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2	....pkg.torch.onnx.stack_trace..
1cde0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
1ce00	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
1ce20	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
1ce40	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
1ce60	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
1ce80	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
1cea0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
1cec0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
1cee0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
1cf00	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
1cf20	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
1cf40	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
1cf60	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
1cf80	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
1cfa0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
1cfc0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
1cfe0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
1d000	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
1d020	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
1d040	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
1d060	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
1d080	22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.588,.in.forward.....laye
1d0a0	72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72	r_output.=.apply_chunking_to_for
1d0c0	77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ward(...File."/home/hsiangniania
1d0e0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
1d100	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
1d120	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
1d140	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.512,.in.forward.....
1d160	68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65	hidden_states.=.self.dense(hidde
1d180	6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	n_states)...File."/home/hsiangni
1d1a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
1d1c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
1d1e0	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65	orch/nn/modules/linear.py",.line
1d200	20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69	.134,.in.forward.....return.F.li
1d220	6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69	near(input,.self.weight,.self.bi
1d240	61 73 29 0a d2 13 0a 07 76 61 6c 5f 31 32 35 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	as).....val_125.,bert.encoder.la
1d260	79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 08 6c	yer.0.intermediate.dense.bias..l
1d280	69 6e 65 61 72 5f 34 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 34 22 03 41 64 64 4a d1 03 0a 09	inear_4..node_linear_4".AddJ....
1d2a0	6e 61 6d 65 73 70 61 63 65 12 c3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
1d2c0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
1d2e0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
1d300	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
1d320	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
1d340	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
1d360	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72	Encoder/bert.encoder.layer.0:.tr
1d380	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
1d3a0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
1d3c0	72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	r.0.intermediate:.transformers.m
1d3e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74	odels.bert.modeling_bert.BertInt
1d400	65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69	ermediate/bert.encoder.layer.0.i
1d420	6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75	ntermediate.dense:.torch.nn.modu
1d440	6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 34 3a 20 61 74 65 6e	les.linear.Linear/linear_4:.aten
1d460	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.linear.defaultJ....pkg.torch.on
1d480	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
1d4a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1d4c0	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
1d4e0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1d500	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
1d520	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
1d540	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
1d560	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
1d580	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1d5a0	2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f	.BertIntermediate',.'torch.nn.mo
1d5c0	64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65	dules.linear.Linear',.'aten.line
1d5e0	61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f3 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ar.default']J....pkg.torch.onnx.
1d600	66 78 5f 6e 6f 64 65 12 d8 01 25 6c 69 6e 65 61 72 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73	fx_node...%linear_4.:.[num_users
1d620	3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68	=1].=.call_function[target=torch
1d640	2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	.ops.aten.linear.default](args.=
1d660	20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	.(%layer_norm_1,.%p_bert_encoder
1d680	5f 6c 61 79 65 72 5f 30 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67	_layer_0_intermediate_dense_weig
1d6a0	68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 69 6e 74 65	ht,.%p_bert_encoder_layer_0_inte
1d6c0	72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	rmediate_dense_bias),.kwargs.=.{
1d6e0	7d 29 4a af 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	})J....pkg.torch.onnx.name_scope
1d700	73 12 90 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c	s...['',.'bert',.'bert.encoder',
1d720	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65	.'bert.encoder.layer.0',.'bert.e
1d740	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62	ncoder.layer.0.intermediate',.'b
1d760	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65	ert.encoder.layer.0.intermediate
1d780	2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 34 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72	.dense',.'linear_4']J....pkg.tor
1d7a0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
1d7c0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
1d7e0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
1d800	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
1d820	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
1d840	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
1d860	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
1d880	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
1d8a0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
1d8c0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
1d8e0	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
1d900	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
1d920	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
1d940	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
1d960	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
1d980	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
1d9a0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
1d9c0	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
1d9e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
1da00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
1da20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
1da40	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38	bert/modeling_bert.py",.line.588
1da60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20	,.in.forward.....layer_output.=.
1da80	61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c	apply_chunking_to_forward(...Fil
1daa0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
1dac0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
1dae0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
1db00	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
1db20	20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74	.512,.in.forward.....hidden_stat
1db40	65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	es.=.self.dense(hidden_states)..
1db60	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
1db80	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
1dba0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64	n3.10/site-packages/torch/nn/mod
1dbc0	75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f	ules/linear.py",.line.134,.in.fo
1dbe0	72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c	rward.....return.F.linear(input,
1dc00	20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d6 12 0a 08 6c 69 6e	.self.weight,.self.bias).....lin
1dc20	65 61 72 5f 34 0a 07 76 61 6c 5f 31 32 36 12 07 76 61 6c 5f 31 32 37 1a 0c 6e 6f 64 65 5f 44 69	ear_4..val_126..val_127..node_Di
1dc40	76 5f 31 32 33 22 03 44 69 76 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61	v_123".DivJ....namespace...:.tra
1dc60	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
1dc80	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
1dca0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
1dcc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
1dce0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
1dd00	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
1dd20	64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.0:.transformers.models
1dd40	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
1dd60	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a	rt.encoder.layer.0.intermediate:
1dd80	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
1dda0	6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e	ng_bert.BertIntermediate/bert.en
1ddc0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72	coder.layer.0.intermediate.inter
1dde0	6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74	mediate_act_fn:.transformers.act
1de00	69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 3a 20 61 74	ivations.GELUActivation/gelu:.at
1de20	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	en.gelu.defaultJ....pkg.torch.on
1de40	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
1de60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1de80	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
1dea0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1dec0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
1dee0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
1df00	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
1df20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
1df40	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
1df60	2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	.BertIntermediate',.'transformer
1df80	73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27	s.activations.GELUActivation',.'
1dfa0	61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 85 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.gelu.default']J....pkg.torc
1dfc0	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6b 25 67 65 6c 75 20 3a 20 5b 6e 75 6d 5f 75 73 65	h.onnx.fx_node.k%gelu.:.[num_use
1dfe0	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
1e000	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	ch.ops.aten.gelu.default](args.=
1e020	20 28 25 6c 69 6e 65 61 72 5f 34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b9 01 0a 1a	.(%linear_4,),.kwargs.=.{})J....
1e040	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9a 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
1e060	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
1e080	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.0',.'bert.encoder.
1e0a0	6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63	layer.0.intermediate',.'bert.enc
1e0c0	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d	oder.layer.0.intermediate.interm
1e0e0	65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 27 5d 4a f7 08 0a 1a 70 6b 67 2e	ediate_act_fn',.'gelu']J....pkg.
1e100	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
1e120	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
1e140	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
1e160	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
1e180	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
1e1a0	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
1e1c0	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
1e1e0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
1e200	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
1e220	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
1e240	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
1e260	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
1e280	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
1e2a0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
1e2c0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
1e2e0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
1e300	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
1e320	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
1e340	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
1e360	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
1e380	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
1e3a0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
1e3c0	35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	588,.in.forward.....layer_output
1e3e0	20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20	.=.apply_chunking_to_forward(...
1e400	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
1e420	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
1e440	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
1e460	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
1e480	69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73	ine.513,.in.forward.....hidden_s
1e4a0	74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e	tates.=.self.intermediate_act_fn
1e4c0	28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	(hidden_states)...File."/home/hs
1e4e0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
1e500	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
1e520	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79	ages/transformers/activations.py
1e540	22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72	",.line.85,.in.forward.....retur
1e560	6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a cc 12 0a 07 76 61 6c 5f 31 32 37 12 07 76	n.self.act(input).....val_127..v
1e580	61 6c 5f 31 32 38 1a 0c 6e 6f 64 65 5f 45 72 66 5f 31 32 34 22 03 45 72 66 4a e2 03 0a 09 6e 61	al_128..node_Erf_124".ErfJ....na
1e5a0	6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
1e5c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
1e5e0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
1e600	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
1e620	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
1e640	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
1e660	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e	coder/bert.encoder.layer.0:.tran
1e680	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1e6a0	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
1e6c0	30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	0.intermediate:.transformers.mod
1e6e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72	els.bert.modeling_bert.BertInter
1e700	6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74	mediate/bert.encoder.layer.0.int
1e720	65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74	ermediate.intermediate_act_fn:.t
1e740	72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69	ransformers.activations.GELUActi
1e760	76 61 74 69 6f 6e 2f 67 65 6c 75 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81	vation/gelu:.aten.gelu.defaultJ.
1e780	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
1e7a0	79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
1e7c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
1e7e0	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
1e800	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
1e820	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
1e840	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
1e860	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
1e880	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
1e8a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65	t.modeling_bert.BertIntermediate
1e8c0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c	',.'transformers.activations.GEL
1e8e0	55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74	UActivation',.'aten.gelu.default
1e900	27 5d 4a 85 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6b 25	']J....pkg.torch.onnx.fx_node.k%
1e920	67 65 6c 75 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	gelu.:.[num_users=1].=.call_func
1e940	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e	tion[target=torch.ops.aten.gelu.
1e960	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 34 2c 29 2c 20 6b 77	default](args.=.(%linear_4,),.kw
1e980	61 72 67 73 20 3d 20 7b 7d 29 4a b9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
1e9a0	6d 65 5f 73 63 6f 70 65 73 12 9a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
1e9c0	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
1e9e0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69	.'bert.encoder.layer.0.intermedi
1ea00	61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65	ate',.'bert.encoder.layer.0.inte
1ea20	72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27	rmediate.intermediate_act_fn',.'
1ea40	67 65 6c 75 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f	gelu']J....pkg.torch.onnx.stack_
1ea60	74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	trace...File."/home/hsiangniania
1ea80	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
1eaa0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
1eac0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
1eae0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1676,.in.forward....
1eb00	20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68	.outputs.=.self.bert(...File."/h
1eb20	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
1eb40	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
1eb60	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
1eb80	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30	ert/modeling_bert.py",.line.1000
1eba0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73	,.in.forward.....encoder_outputs
1ebc0	20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.self.encoder(...File."/home/h
1ebe0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
1ec00	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
1ec20	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
1ec40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66	odeling_bert.py",.line.650,.in.f
1ec60	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72	orward.....layer_outputs.=.layer
1ec80	5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	_module(...File."/home/hsiangnia
1eca0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
1ecc0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
1ece0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
1ed00	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.588,.in.forward..
1ed20	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67	...layer_output.=.apply_chunking
1ed40	5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	_to_forward(...File."/home/hsian
1ed60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
1ed80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
1eda0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
1edc0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.513,.in.forwa
1ede0	72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65	rd.....hidden_states.=.self.inte
1ee00	72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	rmediate_act_fn(hidden_states)..
1ee20	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
1ee40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
1ee60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
1ee80	2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f	/activations.py",.line.85,.in.fo
1eea0	72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29	rward.....return.self.act(input)
1eec0	0a d5 12 0a 07 76 61 6c 5f 31 32 38 0a 07 63 6c 6f 6e 65 5f 31 12 07 76 61 6c 5f 31 33 30 1a 0c	.....val_128..clone_1..val_130..
1eee0	6e 6f 64 65 5f 41 64 64 5f 31 32 36 22 03 41 64 64 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12	node_Add_126".AddJ....namespace.
1ef00	d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..:.transformers.models.bert.mod
1ef20	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
1ef40	61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ation/bert:.transformers.models.
1ef60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72	bert.modeling_bert.BertModel/ber
1ef80	74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	t.encoder:.transformers.models.b
1efa0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65	ert.modeling_bert.BertEncoder/be
1efc0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.encoder.layer.0:.transformers
1efe0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
1f000	61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d	ayer/bert.encoder.layer.0.interm
1f020	65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ediate:.transformers.models.bert
1f040	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f	.modeling_bert.BertIntermediate/
1f060	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74	bert.encoder.layer.0.intermediat
1f080	65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	e.intermediate_act_fn:.transform
1f0a0	65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67	ers.activations.GELUActivation/g
1f0c0	65 6c 75 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74	elu:.aten.gelu.defaultJ....pkg.t
1f0e0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
1f100	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
1f120	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
1f140	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
1f160	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
1f180	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
1f1a0	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
1f1c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
1f1e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
1f200	6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e	ng_bert.BertIntermediate',.'tran
1f220	73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74	sformers.activations.GELUActivat
1f240	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 85 01 0a 16 70	ion',.'aten.gelu.default']J....p
1f260	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6b 25 67 65 6c 75 20 3a 20 5b	kg.torch.onnx.fx_node.k%gelu.:.[
1f280	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
1f2a0	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d	get=torch.ops.aten.gelu.default]
1f2c0	28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	(args.=.(%linear_4,),.kwargs.=.{
1f2e0	7d 29 4a b9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	})J....pkg.torch.onnx.name_scope
1f300	73 12 9a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c	s...['',.'bert',.'bert.encoder',
1f320	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65	.'bert.encoder.layer.0',.'bert.e
1f340	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62	ncoder.layer.0.intermediate',.'b
1f360	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65	ert.encoder.layer.0.intermediate
1f380	2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 27 5d 4a f7	.intermediate_act_fn',.'gelu']J.
1f3a0	08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08	...pkg.torch.onnx.stack_trace...
1f3c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
1f3e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
1f400	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
1f420	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
1f440	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
1f460	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
1f480	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
1f4a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
1f4c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
1f4e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
1f500	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
1f520	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
1f540	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
1f560	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
1f580	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
1f5a0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
1f5c0	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
1f5e0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
1f600	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
1f620	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
1f640	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
1f660	2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.588,.in.forward.....layer
1f680	5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77	_output.=.apply_chunking_to_forw
1f6a0	61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ard(...File."/home/hsiangnianian
1f6c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
1f6e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
1f700	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
1f720	2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68	.py",.line.513,.in.forward.....h
1f740	69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65	idden_states.=.self.intermediate
1f760	5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	_act_fn(hidden_states)...File."/
1f780	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
1f7a0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
1f7c0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74	te-packages/transformers/activat
1f7e0	69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ions.py",.line.85,.in.forward...
1f800	20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a d5 12 0a 07 76 61 6c	..return.self.act(input).....val
1f820	5f 31 33 31 0a 07 76 61 6c 5f 31 33 30 12 07 76 61 6c 5f 31 33 32 1a 0c 6e 6f 64 65 5f 4d 75 6c	_131..val_130..val_132..node_Mul
1f840	5f 31 32 38 22 03 4d 75 6c 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e	_128".MulJ....namespace...:.tran
1f860	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
1f880	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
1f8a0	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
1f8c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
1f8e0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
1f900	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
1f920	65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.0:.transformers.models.
1f940	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
1f960	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20	t.encoder.layer.0.intermediate:.
1f980	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
1f9a0	67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63	g_bert.BertIntermediate/bert.enc
1f9c0	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d	oder.layer.0.intermediate.interm
1f9e0	65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69	ediate_act_fn:.transformers.acti
1fa00	76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 3a 20 61 74 65	vations.GELUActivation/gelu:.ate
1fa20	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	n.gelu.defaultJ....pkg.torch.onn
1fa40	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
1fa60	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
1fa80	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
1faa0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
1fac0	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
1fae0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
1fb00	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
1fb20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
1fb40	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
1fb60	42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	BertIntermediate',.'transformers
1fb80	2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61	.activations.GELUActivation',.'a
1fba0	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 85 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ten.gelu.default']J....pkg.torch
1fbc0	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6b 25 67 65 6c 75 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	.onnx.fx_node.k%gelu.:.[num_user
1fbe0	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
1fc00	68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	h.ops.aten.gelu.default](args.=.
1fc20	28 25 6c 69 6e 65 61 72 5f 34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b9 01 0a 1a 70	(%linear_4,),.kwargs.=.{})J....p
1fc40	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9a 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
1fc60	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
1fc80	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.0',.'bert.encoder.l
1fca0	61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ayer.0.intermediate',.'bert.enco
1fcc0	64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65	der.layer.0.intermediate.interme
1fce0	64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74	diate_act_fn',.'gelu']J....pkg.t
1fd00	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
1fd20	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
1fd40	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
1fd60	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
1fd80	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
1fda0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
1fdc0	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
1fde0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
1fe00	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
1fe20	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
1fe40	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
1fe60	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
1fe80	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
1fea0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
1fec0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
1fee0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
1ff00	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
1ff20	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
1ff40	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
1ff60	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
1ff80	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
1ffa0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
1ffc0	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20	88,.in.forward.....layer_output.
1ffe0	3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46	=.apply_chunking_to_forward(...F
20000	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
20020	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
20040	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
20060	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
20080	6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74	ne.513,.in.forward.....hidden_st
200a0	61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28	ates.=.self.intermediate_act_fn(
200c0	68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	hidden_states)...File."/home/hsi
200e0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
20100	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
20120	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22	ges/transformers/activations.py"
20140	2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e	,.line.85,.in.forward.....return
20160	20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a d0 12 0a 08 6c 69 6e 65 61 72 5f 34 0a 07 76	.self.act(input).....linear_4..v
20180	61 6c 5f 31 33 32 12 04 67 65 6c 75 1a 09 6e 6f 64 65 5f 67 65 6c 75 22 03 4d 75 6c 4a e2 03 0a	al_132..gelu..node_gelu".MulJ...
201a0	09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
201c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
201e0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
20200	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
20220	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
20240	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
20260	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74	tEncoder/bert.encoder.layer.0:.t
20280	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
202a0	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
202c0	65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	er.0.intermediate:.transformers.
202e0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e	models.bert.modeling_bert.BertIn
20300	74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e	termediate/bert.encoder.layer.0.
20320	69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e	intermediate.intermediate_act_fn
20340	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41	:.transformers.activations.GELUA
20360	63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c	ctivation/gelu:.aten.gelu.defaul
20380	74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
203a0	72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
203c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
203e0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
20400	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
20420	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
20440	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
20460	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
20480	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
204a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69	bert.modeling_bert.BertIntermedi
204c0	61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e	ate',.'transformers.activations.
204e0	47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61	GELUActivation',.'aten.gelu.defa
20500	75 6c 74 27 5d 4a 85 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
20520	12 6b 25 67 65 6c 75 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	.k%gelu.:.[num_users=1].=.call_f
20540	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65	unction[target=torch.ops.aten.ge
20560	6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 34 2c 29 2c	lu.default](args.=.(%linear_4,),
20580	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
205a0	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
205c0	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
205e0	30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d	0',.'bert.encoder.layer.0.interm
20600	65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69	ediate',.'bert.encoder.layer.0.i
20620	6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27	ntermediate.intermediate_act_fn'
20640	2c 20 27 67 65 6c 75 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	,.'gelu']J....pkg.torch.onnx.sta
20660	63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
20680	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
206a0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
206c0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
206e0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
20700	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
20720	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
20740	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
20760	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
20780	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
207a0	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
207c0	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
207e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
20800	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
20820	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
20840	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
20860	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
20880	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
208a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
208c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
208e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
20900	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.588,.in.forwar
20920	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b	d.....layer_output.=.apply_chunk
20940	69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ing_to_forward(...File."/home/hs
20960	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
20980	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
209a0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
209c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.513,.in.fo
209e0	72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69	rward.....hidden_states.=.self.i
20a00	6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73	ntermediate_act_fn(hidden_states
20a20	29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	)...File."/home/hsiangnianian/gi
20a40	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
20a60	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
20a80	65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e	ers/activations.py",.line.85,.in
20aa0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70	.forward.....return.self.act(inp
20ac0	75 74 29 0a f6 12 0a 04 67 65 6c 75 0a 07 76 61 6c 5f 31 33 33 12 07 76 61 6c 5f 31 33 34 1a 0f	ut).....gelu..val_133..val_134..
20ae0	6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31 33 30 22 06 4d 61 74 4d 75 6c 4a bf 03 0a 09 6e 61 6d 65	node_MatMul_130".MatMulJ....name
20b00	73 70 61 63 65 12 b1 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
20b20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
20b40	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
20b60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
20b80	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
20ba0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
20bc0	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.0:.transf
20be0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
20c00	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e	.BertLayer/bert.encoder.layer.0.
20c20	6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	output:.transformers.models.bert
20c40	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65	.modeling_bert.BertOutput/bert.e
20c60	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72	ncoder.layer.0.output.dense:.tor
20c80	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
20ca0	61 72 5f 35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b	ar_5:.aten.linear.defaultJ....pk
20cc0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b	g.torch.onnx.class_hierarchy...[
20ce0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
20d00	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
20d20	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
20d40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
20d60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
20d80	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
20da0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
20dc0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
20de0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e	eling_bert.BertOutput',.'torch.n
20e00	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e	n.modules.linear.Linear',.'aten.
20e20	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a df 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f	linear.default']J....pkg.torch.o
20e40	6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c4 01 25 6c 69 6e 65 61 72 5f 35 20 3a 20 5b 6e 75 6d 5f 75	nnx.fx_node...%linear_5.:.[num_u
20e60	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
20e80	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72	orch.ops.aten.linear.default](ar
20ea0	67 73 20 3d 20 28 25 67 65 6c 75 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79	gs.=.(%gelu,.%p_bert_encoder_lay
20ec0	65 72 5f 30 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72	er_0_output_dense_weight,.%p_ber
20ee0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62	t_encoder_layer_0_output_dense_b
20f00	69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a3 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ias),.kwargs.=.{})J....pkg.torch
20f20	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 84 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
20f40	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
20f60	61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f	ayer.0',.'bert.encoder.layer.0.o
20f80	75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75	utput',.'bert.encoder.layer.0.ou
20fa0	74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 35 27 5d 4a 81 09 0a 1a 70 6b 67	tput.dense',.'linear_5']J....pkg
20fc0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
20fe0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
21000	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
21020	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
21040	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
21060	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
21080	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
210a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
210c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
210e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
21100	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
21120	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
21140	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
21160	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
21180	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
211a0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
211c0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
211e0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
21200	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
21220	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
21240	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
21260	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
21280	20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.588,.in.forward.....layer_outpu
212a0	74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20	t.=.apply_chunking_to_forward(..
212c0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
212e0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
21300	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
21320	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
21340	6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f	line.525,.in.forward.....hidden_
21360	73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65	states.=.self.dense(hidden_state
21380	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
213a0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
213c0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e	ython3.10/site-packages/torch/nn
213e0	2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69	/modules/linear.py",.line.134,.i
21400	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e	n.forward.....return.F.linear(in
21420	70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 94 13 0a	put,.self.weight,.self.bias)....
21440	07 76 61 6c 5f 31 33 34 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f	.val_134.&bert.encoder.layer.0.o
21460	75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 08 6c 69 6e 65 61 72 5f 35 1a 0d 6e 6f 64 65	utput.dense.bias..linear_5..node
21480	5f 6c 69 6e 65 61 72 5f 35 22 03 41 64 64 4a bf 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b1 03 3a	_linear_5".AddJ....namespace...:
214a0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
214c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
214e0	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
21500	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
21520	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
21540	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
21560	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.0:.transformers.mo
21580	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
215a0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 3a 20 74	r/bert.encoder.layer.0.output:.t
215c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
215e0	5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	_bert.BertOutput/bert.encoder.la
21600	79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64	yer.0.output.dense:.torch.nn.mod
21620	75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 35 3a 20 61 74 65	ules.linear.Linear/linear_5:.ate
21640	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	n.linear.defaultJ....pkg.torch.o
21660	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
21680	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
216a0	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
216c0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
216e0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
21700	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
21720	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
21740	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
21760	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
21780	74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73	t.BertOutput',.'torch.nn.modules
217a0	2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	.linear.Linear',.'aten.linear.de
217c0	66 61 75 6c 74 27 5d 4a df 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
217e0	64 65 12 c4 01 25 6c 69 6e 65 61 72 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	de...%linear_5.:.[num_users=1].=
21800	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
21820	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65	aten.linear.default](args.=.(%ge
21840	6c 75 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70	lu,.%p_bert_encoder_layer_0_outp
21860	75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	ut_dense_weight,.%p_bert_encoder
21880	5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61	_layer_0_output_dense_bias),.kwa
218a0	72 67 73 20 3d 20 7b 7d 29 4a a3 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
218c0	65 5f 73 63 6f 70 65 73 12 84 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
218e0	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20	coder',.'bert.encoder.layer.0',.
21900	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 27 2c 20 27	'bert.encoder.layer.0.output',.'
21920	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73	bert.encoder.layer.0.output.dens
21940	65 27 2c 20 27 6c 69 6e 65 61 72 5f 35 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	e',.'linear_5']J....pkg.torch.on
21960	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
21980	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
219a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
219c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
219e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
21a00	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
21a20	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
21a40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
21a60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
21a80	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
21aa0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
21ac0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
21ae0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
21b00	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
21b20	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
21b40	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
21b60	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
21b80	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
21ba0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
21bc0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
21be0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
21c00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
21c20	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
21c40	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
21c60	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
21c80	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
21ca0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
21cc0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c	ert/modeling_bert.py",.line.525,
21ce0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
21d00	73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	self.dense(hidden_states)...File
21d20	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
21d40	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
21d60	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
21d80	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
21da0	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
21dc0	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a f1 0f 0a 08 6c 69 6e 65 61 72 5f 35	.weight,.self.bias).....linear_5
21de0	0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 12 07 61 64 64 5f 31 34 37 1a 0c 6e 6f 64 65 5f 61 64	..layer_norm_1..add_147..node_ad
21e00	64 5f 31 34 37 22 03 41 64 64 4a f8 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ea 02 3a 20 74 72 61	d_147".AddJ....namespace...:.tra
21e20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
21e40	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
21e60	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
21e80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
21ea0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
21ec0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
21ee0	64 65 72 2e 6c 61 79 65 72 2e 30 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.0:.transformers.models
21f00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
21f20	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73	rt.encoder.layer.0.output:.trans
21f40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
21f60	74 2e 42 65 72 74 4f 75 74 70 75 74 2f 61 64 64 5f 31 34 37 3a 20 61 74 65 6e 2e 61 64 64 2e 54	t.BertOutput/add_147:.aten.add.T
21f80	65 6e 73 6f 72 4a ce 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	ensorJ....pkg.torch.onnx.class_h
21fa0	69 65 72 61 72 63 68 79 12 ab 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
21fc0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
21fe0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
22000	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
22020	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
22040	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
22060	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
22080	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
220a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75	els.bert.modeling_bert.BertOutpu
220c0	74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74	t',.'aten.add.Tensor']J....pkg.t
220e0	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 31 34 37 20 3a 20 5b 6e	orch.onnx.fx_node.y%add_147.:.[n
22100	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
22120	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72	et=torch.ops.aten.add.Tensor](ar
22140	67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 33 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 29 2c 20	gs.=.(%clone_3,.%layer_norm_1),.
22160	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 7c 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	kwargs.=.{})J|..pkg.torch.onnx.n
22180	61 6d 65 5f 73 63 6f 70 65 73 12 5e 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	ame_scopes.^['',.'bert',.'bert.e
221a0	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c	ncoder',.'bert.encoder.layer.0',
221c0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 27 2c 20	.'bert.encoder.layer.0.output',.
221e0	27 61 64 64 5f 31 34 37 27 5d 4a da 07 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	'add_147']J....pkg.torch.onnx.st
22200	61 63 6b 5f 74 72 61 63 65 12 bb 07 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
22220	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
22240	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
22260	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
22280	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
222a0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
222c0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
222e0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
22300	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
22320	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
22340	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
22360	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
22380	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
223a0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
223c0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
223e0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
22400	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
22420	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
22440	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
22460	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
22480	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
224a0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.588,.in.forwa
224c0	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e	rd.....layer_output.=.apply_chun
224e0	6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	king_to_forward(...File."/home/h
22500	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
22520	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
22540	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
22560	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66	odeling_bert.py",.line.527,.in.f
22580	6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e	orward.....hidden_states.=.self.
225a0	4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f	LayerNorm(hidden_states.+.input_
225c0	74 65 6e 73 6f 72 29 0a e6 14 0a 07 61 64 64 5f 31 34 37 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65	tensor).....add_147.,bert.encode
225e0	72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68	r.layer.0.output.LayerNorm.weigh
22600	74 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c	t.*bert.encoder.layer.0.output.L
22620	61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 1a 11 6e 6f 64	ayerNorm.bias..layer_norm_2..nod
22640	65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69	e_layer_norm_2".LayerNormalizati
22660	6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e	on*...stash_type.....*...epsilon
22680	15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a d5	....+...*...axis..............J.
226a0	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c7 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
226c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
226e0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
22700	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
22720	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
22740	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
22760	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 3a	ertEncoder/bert.encoder.layer.0:
22780	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
227a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
227c0	61 79 65 72 2e 30 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ayer.0.output:.transformers.mode
227e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74	ls.bert.modeling_bert.BertOutput
22800	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79	/bert.encoder.layer.0.output.Lay
22820	65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69	erNorm:.torch.nn.modules.normali
22840	7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 3a 20 61	zation.LayerNorm/layer_norm_2:.a
22860	74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e 74	ten.layer_norm.defaultJ....pkg.t
22880	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
228a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
228c0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
228e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
22900	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
22920	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
22940	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
22960	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
22980	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
229a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d	ng_bert.BertOutput',.'torch.nn.m
229c0	6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c	odules.normalization.LayerNorm',
229e0	20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 80 02 0a 16	.'aten.layer_norm.default']J....
22a00	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 e5 01 25 6c 61 79 65 72 5f	pkg.torch.onnx.fx_node...%layer_
22a20	6e 6f 72 6d 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 34 5d 20 3d 20 63 61 6c 6c 5f 66 75	norm_2.:.[num_users=4].=.call_fu
22a40	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79	nction[target=torch.ops.aten.lay
22a60	65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 31 34	er_norm.default](args.=.(%add_14
22a80	37 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	7,.[256],.%p_bert_encoder_layer_
22aa0	30 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65	0_output_layernorm_weight,.%p_be
22ac0	72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e	rt_encoder_layer_0_output_layern
22ae0	6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab	orm_bias,.1e-12),.kwargs.=.{})J.
22b00	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01	...pkg.torch.onnx.name_scopes...
22b20	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
22b40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.0',.'bert.encod
22b60	65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	er.layer.0.output',.'bert.encode
22b80	72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61	r.layer.0.output.LayerNorm',.'la
22ba0	79 65 72 5f 6e 6f 72 6d 5f 32 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	yer_norm_2']J....pkg.torch.onnx.
22bc0	73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
22be0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
22c00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
22c20	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
22c40	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
22c60	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
22c80	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
22ca0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
22cc0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
22ce0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
22d00	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
22d20	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
22d40	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
22d60	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
22d80	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
22da0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
22dc0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
22de0	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
22e00	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
22e20	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
22e40	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
22e60	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.588,.in.for
22e80	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68	ward.....layer_output.=.apply_ch
22ea0	75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	unking_to_forward(...File."/home
22ec0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
22ee0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
22f00	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
22f20	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e	/modeling_bert.py",.line.527,.in
22f40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c	.forward.....hidden_states.=.sel
22f60	66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75	f.LayerNorm(hidden_states.+.inpu
22f80	74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	t_tensor)...File."/home/hsiangni
22fa0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
22fc0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
22fe0	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79	orch/nn/modules/normalization.py
23000	22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75	",.line.229,.in.forward.....retu
23020	72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a f0 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f	rn.F.layer_norm(.....layer_norm_
23040	32 0a 07 76 61 6c 5f 31 33 37 12 07 76 61 6c 5f 31 33 38 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c	2..val_137..val_138..node_MatMul
23060	5f 31 33 32 22 06 4d 61 74 4d 75 6c 4a af 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a1 04 3a 20 74	_132".MatMulJ....namespace...:.t
23080	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
230a0	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
230c0	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
230e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
23100	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
23120	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
23140	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.1:.transformers.mode
23160	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
23180	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.1.attention:.
231a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
231c0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
231e0	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.1.attention.self:.transf
23200	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
23220	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	.BertSdpaSelfAttention/bert.enco
23240	64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79	der.layer.1.attention.self.query
23260	3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72	:.torch.nn.modules.linear.Linear
23280	2f 6c 69 6e 65 61 72 5f 36 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7	/linear_6:.aten.linear.defaultJ.
232a0	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
232c0	79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
232e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
23300	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
23320	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
23340	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
23360	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
23380	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
233a0	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
233c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
233e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
23400	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
23420	27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27	'torch.nn.modules.linear.Linear'
23440	2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67	,.'aten.linear.default']J....pkg
23460	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 36 20	.torch.onnx.fx_node...%linear_6.
23480	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
234a0	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	target=torch.ops.aten.linear.def
234c0	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f	ault](args.=.(%layer_norm_2,.%p_
234e0	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73	bert_encoder_layer_1_attention_s
23500	65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	elf_query_weight,.%p_bert_encode
23520	72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62	r_layer_1_attention_self_query_b
23540	69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ias),.kwargs.=.{})J....pkg.torch
23560	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
23580	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
235a0	61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	ayer.1',.'bert.encoder.layer.1.a
235c0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	ttention',.'bert.encoder.layer.1
235e0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.attention.self',.'bert.encoder.
23600	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27	layer.1.attention.self.query',.'
23620	6c 69 6e 65 61 72 5f 36 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	linear_6']J....pkg.torch.onnx.st
23640	61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
23660	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
23680	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
236a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
236c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
236e0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
23700	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
23720	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
23740	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
23760	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
23780	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
237a0	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
237c0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
237e0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
23800	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
23820	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
23840	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
23860	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
23880	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
238a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
238c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
238e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
23900	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
23920	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
23940	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
23960	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
23980	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
239a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
239c0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
239e0	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
23a00	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
23a20	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
23a40	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
23a60	70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.363,.in.forward.....se
23a80	6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a	lf.query(hidden_states).view(bsz
23aa0	2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20	,.-1,.self.num_attention_heads,.
23ac0	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70	self.attention_head_size).transp
23ae0	6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ose(1,.2)...File."/home/hsiangni
23b00	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
23b20	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
23b40	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65	orch/nn/modules/linear.py",.line
23b60	20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69	.134,.in.forward.....return.F.li
23b80	6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69	near(input,.self.weight,.self.bi
23ba0	61 73 29 0a 8e 17 0a 07 76 61 6c 5f 31 33 38 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	as).....val_138..bert.encoder.la
23bc0	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12	yer.1.attention.self.query.bias.
23be0	08 6c 69 6e 65 61 72 5f 36 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 36 22 03 41 64 64 4a af 04	.linear_6..node_linear_6".AddJ..
23c00	0a 09 6e 61 6d 65 73 70 61 63 65 12 a1 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
23c20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
23c40	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
23c60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
23c80	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
23ca0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
23cc0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20	rtEncoder/bert.encoder.layer.1:.
23ce0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
23d00	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
23d20	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.1.attention:.transformers.mo
23d40	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
23d60	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e	ntion/bert.encoder.layer.1.atten
23d80	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
23da0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
23dc0	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	tention/bert.encoder.layer.1.att
23de0	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75	ention.self.query:.torch.nn.modu
23e00	6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 36 3a 20 61 74 65 6e	les.linear.Linear/linear_6:.aten
23e20	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.linear.defaultJ....pkg.torch.on
23e40	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
23e60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
23e80	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
23ea0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
23ec0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
23ee0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
23f00	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
23f20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
23f40	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
23f60	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
23f80	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
23fa0	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	aSelfAttention',.'torch.nn.modul
23fc0	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	es.linear.Linear',.'aten.linear.
23fe0	64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
24000	6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	node...%linear_6.:.[num_users=1]
24020	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
24040	73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	s.aten.linear.default](args.=.(%
24060	6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	layer_norm_2,.%p_bert_encoder_la
24080	79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68	yer_1_attention_self_query_weigh
240a0	74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e	t,.%p_bert_encoder_layer_1_atten
240c0	74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20	tion_self_query_bias),.kwargs.=.
240e0	7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
24100	65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
24120	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.1',.'bert.
24140	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.1.attention',.'ber
24160	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.1.attention.self
24180	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.1.attenti
241a0	6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 36 27 5d 4a f6 0a 0a 1a	on.self.query',.'linear_6']J....
241c0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c	pkg.torch.onnx.stack_trace...Fil
241e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
24200	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
24220	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
24240	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
24260	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
24280	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
242a0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
242c0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
242e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
24300	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
24320	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
24340	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
24360	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
24380	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
243a0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
243c0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
243e0	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
24400	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
24420	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
24440	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
24460	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
24480	69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74	ine.558,.in.forward.....self_att
244a0	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28	ention_outputs.=.self.attention(
244c0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
244e0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
24500	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
24520	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
24540	2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.488,.in.forward.....self_
24560	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.self(...File."/ho
24580	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
245a0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
245c0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
245e0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20	rt/modeling_bert.py",.line.363,.
24600	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e	in.forward.....self.query(hidden
24620	5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f	_states).view(bsz,.-1,.self.num_
24640	61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f	attention_heads,.self.attention_
24660	68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c	head_size).transpose(1,.2)...Fil
24680	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
246a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
246c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73	0/site-packages/torch/nn/modules
246e0	2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72	/linear.py",.line.134,.in.forwar
24700	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c	d.....return.F.linear(input,.sel
24720	66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a cd 13 0a 08 6c 69 6e 65 61 72 5f	f.weight,.self.bias).....linear_
24740	36 0a 06 76 61 6c 5f 36 38 12 06 76 69 65 77 5f 34 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 34 22 07	6..val_68..view_4..node_view_4".
24760	52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61	Reshape*...allowzero.....J....na
24780	6d 65 73 70 61 63 65 12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
247a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
247c0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
247e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
24800	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
24820	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
24840	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e	coder/bert.encoder.layer.1:.tran
24860	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
24880	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
248a0	31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	1.attention:.transformers.models
248c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
248e0	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.1.attention
24900	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
24920	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
24940	69 6f 6e 2f 76 69 65 77 5f 34 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03	ion/view_4:.aten.view.defaultJ..
24960	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
24980	12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
249a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
249c0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
249e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
24a00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
24a20	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
24a40	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
24a60	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
24a80	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
24aa0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
24ac0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
24ae0	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a6 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.view.default']J....pkg.torc
24b00	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8b 01 25 76 69 65 77 5f 34 20 3a 20 5b 6e 75 6d 5f	h.onnx.fx_node...%view_4.:.[num_
24b20	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
24b40	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	torch.ops.aten.view.default](arg
24b60	73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 36 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34	s.=.(%linear_6,.[%sym_size_int_4
24b80	35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a	5,.-1,.8,.32]),.kwargs.=.{})J...
24ba0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27	.pkg.torch.onnx.name_scopes...['
24bc0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
24be0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.1',.'bert.encoder
24c00	2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.1.attention',.'bert.encod
24c20	65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65	er.layer.1.attention.self',.'vie
24c40	77 5f 34 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	w_4']J....pkg.torch.onnx.stack_t
24c60	72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
24c80	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
24ca0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
24cc0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
24ce0	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
24d00	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
24d20	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
24d40	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
24d60	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
24d80	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
24da0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
24dc0	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
24de0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
24e00	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
24e20	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
24e40	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
24e60	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
24e80	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
24ea0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
24ec0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
24ee0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
24f00	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
24f20	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
24f40	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
24f60	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
24f80	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
24fa0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
24fc0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
24fe0	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
25000	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
25020	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
25040	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
25060	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
25080	6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75	line.363,.in.forward.....self.qu
250a0	65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c	ery(hidden_states).view(bsz,.-1,
250c0	20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e	.self.num_attention_heads,.self.
250e0	61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31	attention_head_size).transpose(1
25100	2c 20 32 29 0a c6 13 0a 06 76 69 65 77 5f 34 12 0b 74 72 61 6e 73 70 6f 73 65 5f 34 1a 10 6e 6f	,.2).....view_4..transpose_4..no
25120	64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 34 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72	de_transpose_4".Transpose*...per
25140	6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74	m@.@.@.@....J....namespace...:.t
25160	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
25180	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
251a0	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
251c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
251e0	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
25200	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
25220	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.1:.transformers.mode
25240	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
25260	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.1.attention:.
25280	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
252a0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
252c0	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.1.attention.self:.transf
252e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
25300	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65	.BertSdpaSelfAttention/transpose
25320	5f 34 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74	_4:.aten.transpose.intJ....pkg.t
25340	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
25360	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
25380	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
253a0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
253c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
253e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
25400	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
25420	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
25440	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
25460	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
25480	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
254a0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72	BertSdpaSelfAttention',.'aten.tr
254c0	61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 90 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	anspose.int']J....pkg.torch.onnx
254e0	2e 66 78 5f 6e 6f 64 65 12 76 25 74 72 61 6e 73 70 6f 73 65 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73	.fx_node.v%transpose_4.:.[num_us
25500	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
25520	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73	rch.ops.aten.transpose.int](args
25540	20 3d 20 28 25 76 69 65 77 5f 34 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	.=.(%view_4,.1,.2),.kwargs.=.{})
25560	4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
25580	8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
255a0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.1',.'bert.enc
255c0	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.1.attention',.'bert.e
255e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.1.attention.self',.
25600	27 74 72 61 6e 73 70 6f 73 65 5f 34 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	'transpose_4']J....pkg.torch.onn
25620	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
25640	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
25660	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
25680	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
256a0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
256c0	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
256e0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
25700	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
25720	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
25740	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
25760	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
25780	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
257a0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
257c0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
257e0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
25800	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
25820	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
25840	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
25860	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
25880	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
258a0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
258c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
258e0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
25900	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
25920	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
25940	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
25960	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
25980	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
259a0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
259c0	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
259e0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
25a00	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
25a20	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
25a40	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.363,.in.forward...
25a60	20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77	..self.query(hidden_states).view
25a80	28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61	(bsz,.-1,.self.num_attention_hea
25aa0	64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72	ds,.self.attention_head_size).tr
25ac0	61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 95 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 0a 07	anspose(1,.2).....layer_norm_2..
25ae0	76 61 6c 5f 31 34 35 12 07 76 61 6c 5f 31 34 36 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31 34	val_145..val_146..node_MatMul_14
25b00	30 22 06 4d 61 74 4d 75 6c 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e	0".MatMulJ....namespace...:.tran
25b20	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
25b40	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
25b60	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
25b80	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
25ba0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
25bc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
25be0	65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.1:.transformers.models.
25c00	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
25c20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.1.attention:.tra
25c40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
25c60	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
25c80	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.1.attention.self:.transform
25ca0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
25cc0	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	rtSdpaSelfAttention/bert.encoder
25ce0	2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72	.layer.1.attention.self.key:.tor
25d00	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
25d20	61 72 5f 37 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b	ar_7:.aten.linear.defaultJ....pk
25d40	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b	g.torch.onnx.class_hierarchy...[
25d60	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
25d80	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
25da0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
25dc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
25de0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
25e00	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
25e20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
25e40	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
25e60	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
25e80	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
25ea0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63	rt.BertSdpaSelfAttention',.'torc
25ec0	68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74	h.nn.modules.linear.Linear',.'at
25ee0	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f3 01 0a 16 70 6b 67 2e 74 6f 72 63	en.linear.default']J....pkg.torc
25f00	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d8 01 25 6c 69 6e 65 61 72 5f 37 20 3a 20 5b 6e 75	h.onnx.fx_node...%linear_7.:.[nu
25f20	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
25f40	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d	t=torch.ops.aten.linear.default]
25f60	28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f 62 65 72 74 5f	(args.=.(%layer_norm_2,.%p_bert_
25f80	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b	encoder_layer_1_attention_self_k
25fa0	65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	ey_weight,.%p_bert_encoder_layer
25fc0	5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61	_1_attention_self_key_bias),.kwa
25fe0	72 67 73 20 3d 20 7b 7d 29 4a d3 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
26000	65 5f 73 63 6f 70 65 73 12 b4 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
26020	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20	coder',.'bert.encoder.layer.1',.
26040	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27	'bert.encoder.layer.1.attention'
26060	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.1.attentio
26080	6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	n.self',.'bert.encoder.layer.1.a
260a0	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72 5f 37 27 5d 4a	ttention.self.key',.'linear_7']J
260c0	a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84	....pkg.torch.onnx.stack_trace..
260e0	0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
26100	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
26120	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
26140	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
26160	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
26180	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
261a0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
261c0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
261e0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
26200	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
26220	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
26240	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
26260	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
26280	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
262a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
262c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
262e0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
26300	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
26320	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
26340	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
26360	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
26380	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
263a0	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
263c0	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
263e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
26400	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
26420	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
26440	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
26460	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
26480	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
264a0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
264c0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
264e0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33	s/bert/modeling_bert.py",.line.3
26500	38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72	87,.in.forward.....self.key(curr
26520	65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	ent_states)...File."/home/hsiang
26540	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
26560	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
26580	2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69	/torch/nn/modules/linear.py",.li
265a0	6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e	ne.134,.in.forward.....return.F.
265c0	6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e	linear(input,.self.weight,.self.
265e0	62 69 61 73 29 0a b1 16 0a 07 76 61 6c 5f 31 34 36 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bias).....val_146.,bert.encoder.
26600	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12	layer.1.attention.self.key.bias.
26620	08 6c 69 6e 65 61 72 5f 37 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 37 22 03 41 64 64 4a ad 04	.linear_7..node_linear_7".AddJ..
26640	0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
26660	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
26680	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
266a0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
266c0	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
266e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
26700	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20	rtEncoder/bert.encoder.layer.1:.
26720	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
26740	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
26760	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.1.attention:.transformers.mo
26780	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
267a0	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e	ntion/bert.encoder.layer.1.atten
267c0	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
267e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
26800	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	tention/bert.encoder.layer.1.att
26820	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	ention.self.key:.torch.nn.module
26840	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 37 3a 20 61 74 65 6e 2e 6c	s.linear.Linear/linear_7:.aten.l
26860	69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	inear.defaultJ....pkg.torch.onnx
26880	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
268a0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
268c0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
268e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
26900	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
26920	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
26940	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
26960	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
26980	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
269a0	65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ertAttention',.'transformers.mod
269c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
269e0	65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73	elfAttention',.'torch.nn.modules
26a00	2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	.linear.Linear',.'aten.linear.de
26a20	66 61 75 6c 74 27 5d 4a f3 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
26a40	64 65 12 d8 01 25 6c 69 6e 65 61 72 5f 37 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	de...%linear_7.:.[num_users=1].=
26a60	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
26a80	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61	aten.linear.default](args.=.(%la
26aa0	79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	yer_norm_2,.%p_bert_encoder_laye
26ac0	72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25	r_1_attention_self_key_weight,.%
26ae0	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e	p_bert_encoder_layer_1_attention
26b00	5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d3 01	_self_key_bias),.kwargs.=.{})J..
26b20	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b4 01 5b	..pkg.torch.onnx.name_scopes...[
26b40	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
26b60	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.1',.'bert.encode
26b80	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	r.layer.1.attention',.'bert.enco
26ba0	64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65	der.layer.1.attention.self',.'be
26bc0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.1.attention.sel
26be0	66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72 5f 37 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63	f.key',.'linear_7']J....pkg.torc
26c00	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
26c20	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
26c40	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
26c60	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
26c80	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
26ca0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
26cc0	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
26ce0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
26d00	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
26d20	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
26d40	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
26d60	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
26d80	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
26da0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
26dc0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
26de0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
26e00	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
26e20	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
26e40	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
26e60	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
26e80	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
26ea0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
26ec0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
26ee0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
26f00	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
26f20	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
26f40	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
26f60	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
26f80	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
26fa0	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
26fc0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
26fe0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
27000	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
27020	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.387,.in.forwa
27040	72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a	rd.....self.key(current_states).
27060	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
27080	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
270a0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f	on3.10/site-packages/torch/nn/mo
270c0	64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66	dules/linear.py",.line.134,.in.f
270e0	6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74	orward.....return.F.linear(input
27100	2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a a4 13 0a 08 6c 69	,.self.weight,.self.bias).....li
27120	6e 65 61 72 5f 37 0a 06 76 61 6c 5f 36 38 12 06 76 69 65 77 5f 35 1a 0b 6e 6f 64 65 5f 76 69 65	near_7..val_68..view_5..node_vie
27140	77 5f 35 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1	w_5".Reshape*...allowzero.....J.
27160	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
27180	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
271a0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
271c0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
271e0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
27200	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
27220	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a	ertEncoder/bert.encoder.layer.1:
27240	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
27260	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
27280	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.1.attention:.transformers.m
272a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
272c0	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	ention/bert.encoder.layer.1.atte
272e0	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
27300	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
27320	74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 35 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75	ttention/view_5:.aten.view.defau
27340	6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
27360	61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
27380	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
273a0	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
273c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
273e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
27400	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
27420	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
27440	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
27460	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
27480	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
274a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
274c0	6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a6 01 0a 16 70 6b 67	n',.'aten.view.default']J....pkg
274e0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8b 01 25 76 69 65 77 5f 35 20 3a 20	.torch.onnx.fx_node...%view_5.:.
27500	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
27520	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74	rget=torch.ops.aten.view.default
27540	5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 37 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f	](args.=.(%linear_7,.[%sym_size_
27560	69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	int_45,.-1,.8,.32]),.kwargs.=.{}
27580	29 4a a6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
275a0	12 87 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
275c0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.1',.'bert.en
275e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.1.attention',.'bert.
27600	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.1.attention.self',
27620	20 27 76 69 65 77 5f 35 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	.'view_5']J....pkg.torch.onnx.st
27640	61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
27660	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
27680	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
276a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
276c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
276e0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
27700	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
27720	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
27740	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
27760	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
27780	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
277a0	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
277c0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
277e0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
27800	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
27820	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
27840	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
27860	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
27880	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
278a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
278c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
278e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
27900	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
27920	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
27940	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
27960	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
27980	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
279a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
279c0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
279e0	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
27a00	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
27a20	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
27a40	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
27a60	70 79 22 2c 20 6c 69 6e 65 20 33 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76	py",.line.388,.in.forward......v
27a80	69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f	iew(bsz,.-1,.self.num_attention_
27aa0	68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29	heads,.self.attention_head_size)
27ac0	0a eb 12 0a 06 76 69 65 77 5f 35 12 0b 74 72 61 6e 73 70 6f 73 65 5f 35 1a 10 6e 6f 64 65 5f 74	.....view_5..transpose_5..node_t
27ae0	72 61 6e 73 70 6f 73 65 5f 35 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40	ranspose_5".Transpose*...perm@.@
27b00	02 40 01 40 03 a0 01 07 4a e7 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73	.@.@....J....namespace...:.trans
27b20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
27b40	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
27b60	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
27b80	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
27ba0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
27bc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
27be0	72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.1:.transformers.models.b
27c00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
27c20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e	.encoder.layer.1.attention:.tran
27c40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
27c60	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	rt.BertAttention/bert.encoder.la
27c80	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65	yer.1.attention.self:.transforme
27ca0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
27cc0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 35 3a 20	tSdpaSelfAttention/transpose_5:.
27ce0	61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	aten.transpose.intJ....pkg.torch
27d00	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
27d20	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
27d40	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
27d60	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
27d80	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
27da0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
27dc0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
27de0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
27e00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
27e20	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
27e40	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
27e60	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70	SdpaSelfAttention',.'aten.transp
27e80	6f 73 65 2e 69 6e 74 27 5d 4a 90 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	ose.int']J....pkg.torch.onnx.fx_
27ea0	6e 6f 64 65 12 76 25 74 72 61 6e 73 70 6f 73 65 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	node.v%transpose_5.:.[num_users=
27ec0	31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	1].=.call_function[target=torch.
27ee0	6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28	ops.aten.transpose.int](args.=.(
27f00	25 76 69 65 77 5f 35 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a	%view_5,.1,.2),.kwargs.=.{})J...
27f20	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27	.pkg.torch.onnx.name_scopes...['
27f40	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
27f60	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.1',.'bert.encoder
27f80	2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.1.attention',.'bert.encod
27fa0	65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61	er.layer.1.attention.self',.'tra
27fc0	6e 73 70 6f 73 65 5f 35 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	nspose_5']J....pkg.torch.onnx.st
27fe0	61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
28000	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
28020	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
28040	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
28060	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
28080	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
280a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
280c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
280e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
28100	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
28120	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
28140	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
28160	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
28180	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
281a0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
281c0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
281e0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
28200	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
28220	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
28240	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
28260	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
28280	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
282a0	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
282c0	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
282e0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
28300	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
28320	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
28340	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
28360	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
28380	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
283a0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
283c0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
283e0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
28400	70 79 22 2c 20 6c 69 6e 65 20 33 38 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74	py",.line.389,.in.forward......t
28420	72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 9f 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 0a	ranspose(1,.2).....layer_norm_2.
28440	07 76 61 6c 5f 31 35 33 12 07 76 61 6c 5f 31 35 34 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31	.val_153..val_154..node_MatMul_1
28460	34 38 22 06 4d 61 74 4d 75 6c 4a af 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a1 04 3a 20 74 72 61	48".MatMulJ....namespace...:.tra
28480	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
284a0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
284c0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
284e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
28500	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
28520	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
28540	64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.1:.transformers.models
28560	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
28580	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.1.attention:.tr
285a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
285c0	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
285e0	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.1.attention.self:.transfor
28600	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
28620	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ertSdpaSelfAttention/bert.encode
28640	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20	r.layer.1.attention.self.value:.
28660	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c	torch.nn.modules.linear.Linear/l
28680	69 6e 65 61 72 5f 38 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a	inear_8:.aten.linear.defaultJ...
286a0	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
286c0	94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
286e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
28700	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
28720	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
28740	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
28760	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
28780	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
287a0	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
287c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
287e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
28800	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	_bert.BertSdpaSelfAttention',.'t
28820	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20	orch.nn.modules.linear.Linear',.
28840	27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74	'aten.linear.default']J....pkg.t
28860	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 38 20 3a 20	orch.onnx.fx_node...%linear_8.:.
28880	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
288a0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	rget=torch.ops.aten.linear.defau
288c0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f 62 65	lt](args.=.(%layer_norm_2,.%p_be
288e0	72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c	rt_encoder_layer_1_attention_sel
28900	66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	f_value_weight,.%p_bert_encoder_
28920	6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61	layer_1_attention_self_value_bia
28940	73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	s),.kwargs.=.{})J....pkg.torch.o
28960	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
28980	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
289a0	65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	er.1',.'bert.encoder.layer.1.att
289c0	65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	ention',.'bert.encoder.layer.1.a
289e0	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	ttention.self',.'bert.encoder.la
28a00	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69	yer.1.attention.self.value',.'li
28a20	6e 65 61 72 5f 38 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	near_8']J....pkg.torch.onnx.stac
28a40	6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
28a60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
28a80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
28aa0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
28ac0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
28ae0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
28b00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
28b20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
28b40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
28b60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
28b80	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
28ba0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
28bc0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
28be0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
28c00	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
28c20	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
28c40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
28c60	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
28c80	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
28ca0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
28cc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
28ce0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
28d00	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
28d20	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
28d40	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
28d60	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
28d80	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
28da0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
28dc0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
28de0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
28e00	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
28e20	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
28e40	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
28e60	22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.392,.in.forward.....self
28e80	2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	.value(current_states)...File."/
28ea0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
28ec0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
28ee0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
28f00	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
28f20	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
28f40	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a bd 16 0a 07 76 61 6c 5f 31 35 34 0a 2e 62 65	ight,.self.bias).....val_154..be
28f60	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.1.attention.sel
28f80	66 2e 76 61 6c 75 65 2e 62 69 61 73 12 08 6c 69 6e 65 61 72 5f 38 1a 0d 6e 6f 64 65 5f 6c 69 6e	f.value.bias..linear_8..node_lin
28fa0	65 61 72 5f 38 22 03 41 64 64 4a af 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a1 04 3a 20 74 72 61	ear_8".AddJ....namespace...:.tra
28fc0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
28fe0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
29000	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
29020	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
29040	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
29060	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
29080	64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.1:.transformers.models
290a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
290c0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.1.attention:.tr
290e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
29100	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
29120	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.1.attention.self:.transfor
29140	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
29160	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ertSdpaSelfAttention/bert.encode
29180	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20	r.layer.1.attention.self.value:.
291a0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c	torch.nn.modules.linear.Linear/l
291c0	69 6e 65 61 72 5f 38 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a	inear_8:.aten.linear.defaultJ...
291e0	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
29200	94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
29220	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
29240	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
29260	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
29280	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
292a0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
292c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
292e0	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
29300	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
29320	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
29340	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	_bert.BertSdpaSelfAttention',.'t
29360	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20	orch.nn.modules.linear.Linear',.
29380	27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74	'aten.linear.default']J....pkg.t
293a0	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 38 20 3a 20	orch.onnx.fx_node...%linear_8.:.
293c0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
293e0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	rget=torch.ops.aten.linear.defau
29400	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 2c 20 25 70 5f 62 65	lt](args.=.(%layer_norm_2,.%p_be
29420	72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c	rt_encoder_layer_1_attention_sel
29440	66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	f_value_weight,.%p_bert_encoder_
29460	6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61	layer_1_attention_self_value_bia
29480	73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d5 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	s),.kwargs.=.{})J....pkg.torch.o
294a0	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b6 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
294c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
294e0	65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	er.1',.'bert.encoder.layer.1.att
29500	65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	ention',.'bert.encoder.layer.1.a
29520	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	ttention.self',.'bert.encoder.la
29540	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69	yer.1.attention.self.value',.'li
29560	6e 65 61 72 5f 38 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	near_8']J....pkg.torch.onnx.stac
29580	6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
295a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
295c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
295e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
29600	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
29620	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
29640	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
29660	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
29680	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
296a0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
296c0	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
296e0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
29700	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
29720	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
29740	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
29760	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
29780	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
297a0	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
297c0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
297e0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
29800	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
29820	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
29840	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
29860	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
29880	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
298a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
298c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
298e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
29900	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
29920	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
29940	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
29960	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
29980	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
299a0	22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.392,.in.forward.....self
299c0	2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	.value(current_states)...File."/
299e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
29a00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
29a20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
29a40	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
29a60	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
29a80	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a a4 13 0a 08 6c 69 6e 65 61 72 5f 38 0a 06 76	ight,.self.bias).....linear_8..v
29aa0	61 6c 5f 36 38 12 06 76 69 65 77 5f 36 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 36 22 07 52 65 73 68	al_68..view_6..node_view_6".Resh
29ac0	61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70	ape*...allowzero.....J....namesp
29ae0	61 63 65 12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
29b00	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
29b20	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
29b40	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
29b60	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
29b80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
29ba0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.1:.transfor
29bc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
29be0	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74	ertLayer/bert.encoder.layer.1.at
29c00	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
29c20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
29c40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.1.attention.sel
29c60	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
29c80	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
29ca0	76 69 65 77 5f 36 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b	view_6:.aten.view.defaultJ....pk
29cc0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b	g.torch.onnx.class_hierarchy...[
29ce0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
29d00	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
29d20	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
29d40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
29d60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
29d80	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
29da0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
29dc0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
29de0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
29e00	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
29e20	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e	rt.BertSdpaSelfAttention',.'aten
29e40	2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a6 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.view.default']J....pkg.torch.on
29e60	6e 78 2e 66 78 5f 6e 6f 64 65 12 8b 01 25 76 69 65 77 5f 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	nx.fx_node...%view_6.:.[num_user
29e80	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
29ea0	68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	h.ops.aten.view.default](args.=.
29ec0	28 25 6c 69 6e 65 61 72 5f 38 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d	(%linear_8,.[%sym_size_int_45,.-
29ee0	31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67	1,.8,.32]),.kwargs.=.{})J....pkg
29f00	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27	.torch.onnx.name_scopes...['',.'
29f20	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
29f40	6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.1',.'bert.encoder.lay
29f60	65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	er.1.attention',.'bert.encoder.l
29f80	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 36 27	ayer.1.attention.self',.'view_6'
29fa0	5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
29fc0	12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
29fe0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
2a000	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
2a020	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
2a040	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
2a060	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
2a080	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
2a0a0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
2a0c0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
2a0e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
2a100	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
2a120	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
2a140	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
2a160	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
2a180	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
2a1a0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
2a1c0	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
2a1e0	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
2a200	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
2a220	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
2a240	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
2a260	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
2a280	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
2a2a0	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
2a2c0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
2a2e0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
2a300	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
2a320	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.488,.in.forward....
2a340	20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c	.self_outputs.=.self.self(...Fil
2a360	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
2a380	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
2a3a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
2a3c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
2a3e0	20 33 39 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20	.393,.in.forward......view(bsz,.
2a400	2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65	-1,.self.num_attention_heads,.se
2a420	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a eb 12 0a 06 76 69 65 77	lf.attention_head_size).....view
2a440	5f 36 12 0b 74 72 61 6e 73 70 6f 73 65 5f 36 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f	_6..transpose_6..node_transpose_
2a460	36 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a	6".Transpose*...perm@.@.@.@....J
2a480	e7 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	....namespace...:.transformers.m
2a4a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
2a4c0	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66	TokenClassification/bert:.transf
2a4e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
2a500	2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f	.BertModel/bert.encoder:.transfo
2a520	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
2a540	42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	BertEncoder/bert.encoder.layer.1
2a560	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
2a580	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ing_bert.BertLayer/bert.encoder.
2a5a0	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	layer.1.attention:.transformers.
2a5c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
2a5e0	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	tention/bert.encoder.layer.1.att
2a600	65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ention.self:.transformers.models
2a620	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
2a640	41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 36 3a 20 61 74 65 6e 2e 74 72 61 6e	Attention/transpose_6:.aten.tran
2a660	73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	spose.intJ....pkg.torch.onnx.cla
2a680	73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
2a6a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
2a6c0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
2a6e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
2a700	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
2a720	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
2a740	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
2a760	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
2a780	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
2a7a0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
2a7c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
2a7e0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d	ttention',.'aten.transpose.int']
2a800	4a 90 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 76 25 74 72	J....pkg.torch.onnx.fx_node.v%tr
2a820	61 6e 73 70 6f 73 65 5f 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	anspose_6.:.[num_users=1].=.call
2a840	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
2a860	74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 36 2c 20	transpose.int](args.=.(%view_6,.
2a880	31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63	1,.2),.kwargs.=.{})J....pkg.torc
2a8a0	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
2a8c0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
2a8e0	6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e	layer.1',.'bert.encoder.layer.1.
2a900	61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	attention',.'bert.encoder.layer.
2a920	31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 36 27	1.attention.self',.'transpose_6'
2a940	5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
2a960	12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
2a980	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
2a9a0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
2a9c0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
2a9e0	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
2aa00	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
2aa20	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
2aa40	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
2aa60	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
2aa80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
2aaa0	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
2aac0	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
2aae0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
2ab00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
2ab20	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
2ab40	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
2ab60	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
2ab80	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
2aba0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
2abc0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
2abe0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
2ac00	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
2ac20	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
2ac40	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
2ac60	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
2ac80	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
2aca0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
2acc0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.488,.in.forward....
2ace0	20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c	.self_outputs.=.self.self(...Fil
2ad00	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
2ad20	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
2ad40	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
2ad60	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
2ad80	20 33 39 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28	.394,.in.forward......transpose(
2ada0	31 2c 20 32 29 0a b8 14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 35 12 07 76 61 6c 5f 31 37 30 1a 0e	1,.2).....transpose_5..val_170..
2adc0	6e 6f 64 65 5f 53 68 61 70 65 5f 31 36 34 22 05 53 68 61 70 65 2a 0c 0a 05 73 74 61 72 74 18 00	node_Shape_164".Shape*...start..
2ade0	a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65	...J....namespace...:.transforme
2ae00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
2ae20	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72	tForTokenClassification/bert:.tr
2ae40	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
2ae60	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61	bert.BertModel/bert.encoder:.tra
2ae80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
2aea0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ert.BertEncoder/bert.encoder.lay
2aec0	65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er.1:.transformers.models.bert.m
2aee0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertLayer/bert.enco
2af00	64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	der.layer.1.attention:.transform
2af20	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
2af40	72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	rtAttention/bert.encoder.layer.1
2af60	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.attention.self:.transformers.mo
2af80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
2afa0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	SelfAttention/scaled_dot_product
2afc0	5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	_attention_1:.aten.scaled_dot_pr
2afe0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e	oduct_attention.defaultJ....pkg.
2b000	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74	torch.onnx.class_hierarchy...['t
2b020	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
2b040	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
2b060	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
2b080	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertModel',.'transfor
2b0a0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
2b0c0	65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ertEncoder',.'transformers.model
2b0e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c	s.bert.modeling_bert.BertLayer',
2b100	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
2b120	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ing_bert.BertAttention',.'transf
2b140	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
2b160	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73	.BertSdpaSelfAttention',.'aten.s
2b180	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
2b1a0	75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
2b1c0	12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	...%scaled_dot_product_attention
2b1e0	5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_1.:.[num_users=1].=.call_functi
2b200	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
2b220	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
2b240	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	rgs.=.(%transpose_4,.%transpose_
2b260	35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20	5,.%transpose_6,.%masked_fill),.
2b280	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
2b2a0	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
2b2c0	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	.encoder',.'bert.encoder.layer.1
2b2e0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.1.attenti
2b300	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e	on',.'bert.encoder.layer.1.atten
2b320	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion.self',.'scaled_dot_product_
2b340	61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	attention_1']J....pkg.torch.onnx
2b360	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
2b380	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
2b3a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
2b3c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
2b3e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
2b400	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
2b420	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
2b440	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
2b460	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
2b480	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
2b4a0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
2b4c0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
2b4e0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
2b500	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
2b520	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
2b540	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
2b560	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
2b580	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
2b5a0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
2b5c0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
2b5e0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
2b600	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
2b620	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
2b640	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
2b660	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
2b680	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
2b6a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
2b6c0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
2b6e0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
2b700	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
2b720	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
2b740	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
2b760	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
2b780	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.413,.in.forward....
2b7a0	20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e	.attn_output.=.torch.nn.function
2b7c0	61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28	al.scaled_dot_product_attention(
2b7e0	0a b6 14 0a 07 76 61 6c 5f 31 37 30 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f 39 35 12 07 76 61	.....val_170..val_65..val_95..va
2b800	6c 5f 31 37 32 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 31 36 36 22 05 53 6c 69 63 65 4a 91 04 0a	l_172..node_Slice_166".SliceJ...
2b820	09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
2b840	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
2b860	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
2b880	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
2b8a0	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
2b8c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
2b8e0	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74	tEncoder/bert.encoder.layer.1:.t
2b900	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
2b920	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
2b940	65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	er.1.attention:.transformers.mod
2b960	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
2b980	74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74	tion/bert.encoder.layer.1.attent
2b9a0	69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion.self:.transformers.models.be
2b9c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
2b9e0	65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ention/scaled_dot_product_attent
2ba00	69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion_1:.aten.scaled_dot_product_a
2ba20	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	ttention.defaultJ....pkg.torch.o
2ba40	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
2ba60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
2ba80	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
2baa0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
2bac0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
2bae0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
2bb00	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
2bb20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
2bb40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
2bb60	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.BertAttention',.'transformers.
2bb80	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
2bba0	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	paSelfAttention',.'aten.scaled_d
2bbc0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4	ot_product_attention.default']J.
2bbe0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61	...pkg.torch.onnx.fx_node...%sca
2bc00	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e	led_dot_product_attention_1.:.[n
2bc20	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
2bc40	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	et=torch.ops.aten.scaled_dot_pro
2bc60	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	duct_attention.default](args.=.(
2bc80	25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61	%transpose_4,.%transpose_5,.%tra
2bca0	6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20	nspose_6,.%masked_fill),.kwargs.
2bcc0	3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63	=.{})J....pkg.torch.onnx.name_sc
2bce0	6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	opes...['',.'bert',.'bert.encode
2bd00	72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72	r',.'bert.encoder.layer.1',.'ber
2bd20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62	t.encoder.layer.1.attention',.'b
2bd40	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.1.attention.se
2bd60	6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	lf',.'scaled_dot_product_attenti
2bd80	6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f	on_1']J....pkg.torch.onnx.stack_
2bda0	74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	trace...File."/home/hsiangniania
2bdc0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
2bde0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
2be00	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
2be20	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1676,.in.forward....
2be40	20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68	.outputs.=.self.bert(...File."/h
2be60	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
2be80	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
2bea0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
2bec0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30	ert/modeling_bert.py",.line.1000
2bee0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73	,.in.forward.....encoder_outputs
2bf00	20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.self.encoder(...File."/home/h
2bf20	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
2bf40	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
2bf60	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
2bf80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66	odeling_bert.py",.line.650,.in.f
2bfa0	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72	orward.....layer_outputs.=.layer
2bfc0	5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	_module(...File."/home/hsiangnia
2bfe0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
2c000	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
2c020	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
2c040	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.558,.in.forward..
2c060	20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	...self_attention_outputs.=.self
2c080	2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.attention(...File."/home/hsiang
2c0a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
2c0c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
2c0e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
2c100	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.488,.in.forwar
2c120	64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a	d.....self_outputs.=.self.self(.
2c140	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
2c160	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
2c180	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
2c1a0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
2c1c0	20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f	.line.413,.in.forward.....attn_o
2c1e0	75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c	utput.=.torch.nn.functional.scal
2c200	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b6 14 0a 07 76 61	ed_dot_product_attention(.....va
2c220	6c 5f 31 37 30 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f 36 35 12 07 76 61 6c 5f 31 37 33 1a 0e	l_170..val_98..val_65..val_173..
2c240	6e 6f 64 65 5f 53 6c 69 63 65 5f 31 36 37 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73 70	node_Slice_167".SliceJ....namesp
2c260	61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
2c280	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
2c2a0	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
2c2c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
2c2e0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
2c300	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
2c320	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.1:.transfor
2c340	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
2c360	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74	ertLayer/bert.encoder.layer.1.at
2c380	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
2c3a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
2c3c0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.1.attention.sel
2c3e0	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
2c400	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
2c420	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20	scaled_dot_product_attention_1:.
2c440	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
2c460	6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	n.defaultJ....pkg.torch.onnx.cla
2c480	73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
2c4a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
2c4c0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
2c4e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
2c500	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
2c520	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
2c540	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
2c560	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
2c580	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
2c5a0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
2c5c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
2c5e0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ttention',.'aten.scaled_dot_prod
2c600	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e	uct_attention.default']J....pkg.
2c620	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74	torch.onnx.fx_node...%scaled_dot
2c640	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	_product_attention_1.:.[num_user
2c660	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
2c680	68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	h.ops.aten.scaled_dot_product_at
2c6a0	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70	tention.default](args.=.(%transp
2c6c0	6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	ose_4,.%transpose_5,.%transpose_
2c6e0	36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be	6,.%masked_fill),.kwargs.=.{})J.
2c700	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01	...pkg.torch.onnx.name_scopes...
2c720	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
2c740	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.1',.'bert.encod
2c760	65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.1.attention',.'bert.enc
2c780	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73	oder.layer.1.attention.self',.'s
2c7a0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a	caled_dot_product_attention_1']J
2c7c0	90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1	....pkg.torch.onnx.stack_trace..
2c7e0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
2c800	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
2c820	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
2c840	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
2c860	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
2c880	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
2c8a0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
2c8c0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
2c8e0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
2c900	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
2c920	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
2c940	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
2c960	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
2c980	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
2c9a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
2c9c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
2c9e0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
2ca00	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
2ca20	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
2ca40	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
2ca60	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
2ca80	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
2caa0	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
2cac0	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
2cae0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
2cb00	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
2cb20	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
2cb40	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
2cb60	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
2cb80	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
2cba0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
2cbc0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
2cbe0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
2cc00	31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d	13,.in.forward.....attn_output.=
2cc20	20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	.torch.nn.functional.scaled_dot_
2cc40	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b7 14 0a 07 76 61 6c 5f 31 37 30 0a 07	product_attention(.....val_170..
2cc60	76 61 6c 5f 31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76 61 6c 5f 31 37 35 1a 0e 6e 6f 64 65 5f 53	val_100..val_98..val_175..node_S
2cc80	6c 69 63 65 5f 31 36 39 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04	lice_169".SliceJ....namespace...
2cca0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
2ccc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
2cce0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
2cd00	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
2cd20	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
2cd40	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
2cd60	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.1:.transformers.m
2cd80	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
2cda0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.1.attentio
2cdc0	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
2cde0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
2ce00	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.1.attention.self:.tra
2ce20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
2ce40	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64	ert.BertSdpaSelfAttention/scaled
2ce60	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73	_dot_product_attention_1:.aten.s
2ce80	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
2cea0	75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
2cec0	72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
2cee0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
2cf00	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
2cf20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
2cf40	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
2cf60	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
2cf80	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
2cfa0	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
2cfc0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
2cfe0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
2d000	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
2d020	6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on',.'aten.scaled_dot_product_at
2d040	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	tention.default']J....pkg.torch.
2d060	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	onnx.fx_node...%scaled_dot_produ
2d080	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	ct_attention_1.:.[num_users=1].=
2d0a0	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
2d0c0	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
2d0e0	6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c	n.default](args.=.(%transpose_4,
2d100	20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61	.%transpose_5,.%transpose_6,.%ma
2d120	73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67	sked_fill),.kwargs.=.{})J....pkg
2d140	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27	.torch.onnx.name_scopes...['',.'
2d160	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
2d180	6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.1',.'bert.encoder.lay
2d1a0	65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	er.1.attention',.'bert.encoder.l
2d1c0	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f	ayer.1.attention.self',.'scaled_
2d1e0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b	dot_product_attention_1']J....pk
2d200	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20	g.torch.onnx.stack_trace...File.
2d220	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
2d240	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
2d260	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
2d280	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
2d2a0	36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65	676,.in.forward.....outputs.=.se
2d2c0	6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.bert(...File."/home/hsiangnia
2d2e0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
2d300	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
2d320	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
2d340	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1000,.in.forward.
2d360	20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64	....encoder_outputs.=.self.encod
2d380	65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	er(...File."/home/hsiangnianian/
2d3a0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
2d3c0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
2d3e0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
2d400	70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61	py",.line.650,.in.forward.....la
2d420	79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69	yer_outputs.=.layer_module(...Fi
2d440	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
2d460	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
2d480	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
2d4a0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
2d4c0	65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e	e.558,.in.forward.....self_atten
2d4e0	74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20	tion_outputs.=.self.attention(..
2d500	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
2d520	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
2d540	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
2d560	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
2d580	6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75	line.488,.in.forward.....self_ou
2d5a0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.self(...File."/home
2d5c0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
2d5e0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
2d600	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
2d620	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e	/modeling_bert.py",.line.413,.in
2d640	20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68	.forward.....attn_output.=.torch
2d660	2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	.nn.functional.scaled_dot_produc
2d680	74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c6 14 0a 06 76 61 6c 5f 36 35 0a 07 76 61 6c 5f 31 37 33	t_attention(.....val_65..val_173
2d6a0	0a 07 76 61 6c 5f 31 37 32 12 07 76 61 6c 5f 31 37 37 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f	..val_172..val_177..node_Concat_
2d6c0	31 37 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d	171".Concat*...axis.....J....nam
2d6e0	65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
2d700	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
2d720	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
2d740	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
2d760	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
2d780	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
2d7a0	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.1:.trans
2d7c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
2d7e0	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	t.BertLayer/bert.encoder.layer.1
2d800	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
2d820	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
2d840	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.1.attention.
2d860	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
2d880	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
2d8a0	6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	on/scaled_dot_product_attention_
2d8c0	31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	1:.aten.scaled_dot_product_atten
2d8e0	74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	tion.defaultJ....pkg.torch.onnx.
2d900	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
2d920	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
2d940	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
2d960	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
2d980	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
2d9a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
2d9c0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
2d9e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
2da00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
2da20	72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	rtAttention',.'transformers.mode
2da40	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
2da60	6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	lfAttention',.'aten.scaled_dot_p
2da80	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70	roduct_attention.default']J....p
2daa0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f	kg.torch.onnx.fx_node...%scaled_
2dac0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75	dot_product_attention_1.:.[num_u
2dae0	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
2db00	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	orch.ops.aten.scaled_dot_product
2db20	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61	_attention.default](args.=.(%tra
2db40	6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f	nspose_4,.%transpose_5,.%transpo
2db60	73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	se_6,.%masked_fill),.kwargs.=.{}
2db80	29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
2dba0	12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
2dbc0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.1',.'bert.en
2dbe0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.1.attention',.'bert.
2dc00	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.1.attention.self',
2dc20	20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31	.'scaled_dot_product_attention_1
2dc40	27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
2dc60	65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
2dc80	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
2dca0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
2dcc0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
2dce0	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
2dd00	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
2dd20	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
2dd40	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
2dd60	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
2dd80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
2dda0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
2ddc0	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
2dde0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
2de00	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
2de20	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
2de40	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
2de60	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
2de80	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
2dea0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
2dec0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
2dee0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
2df00	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
2df20	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
2df40	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
2df60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
2df80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
2dfa0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
2dfc0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.488,.in.forward...
2dfe0	20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69	..self_outputs.=.self.self(...Fi
2e000	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
2e020	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
2e040	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
2e060	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
2e080	65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75	e.413,.in.forward.....attn_outpu
2e0a0	74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64	t.=.torch.nn.functional.scaled_d
2e0c0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c9 14 0a 0b 74 72 61 6e 73 70	ot_product_attention(.....transp
2e0e0	6f 73 65 5f 35 0a 07 76 61 6c 5f 31 37 37 12 07 76 61 6c 5f 31 37 38 1a 10 6e 6f 64 65 5f 52 65	ose_5..val_177..val_178..node_Re
2e100	73 68 61 70 65 5f 31 37 32 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18	shape_172".Reshape*...allowzero.
2e120	00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d	....J....namespace...:.transform
2e140	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
2e160	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74	rtForTokenClassification/bert:.t
2e180	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
2e1a0	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72	_bert.BertModel/bert.encoder:.tr
2e1c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
2e1e0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	bert.BertEncoder/bert.encoder.la
2e200	79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer.1:.transformers.models.bert.
2e220	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertLayer/bert.enc
2e240	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72	oder.layer.1.attention:.transfor
2e260	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
2e280	65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ertAttention/bert.encoder.layer.
2e2a0	31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	1.attention.self:.transformers.m
2e2c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
2e2e0	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	aSelfAttention/scaled_dot_produc
2e300	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	t_attention_1:.aten.scaled_dot_p
2e320	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67	roduct_attention.defaultJ....pkg
2e340	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27	.torch.onnx.class_hierarchy...['
2e360	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
2e380	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
2e3a0	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
2e3c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertModel',.'transfo
2e3e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
2e400	42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	BertEncoder',.'transformers.mode
2e420	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27	ls.bert.modeling_bert.BertLayer'
2e440	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
2e460	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	ling_bert.BertAttention',.'trans
2e480	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
2e4a0	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e	t.BertSdpaSelfAttention',.'aten.
2e4c0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
2e4e0	61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
2e500	65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	e...%scaled_dot_product_attentio
2e520	6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	n_1.:.[num_users=1].=.call_funct
2e540	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64	ion[target=torch.ops.aten.scaled
2e560	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28	_dot_product_attention.default](
2e580	61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65	args.=.(%transpose_4,.%transpose
2e5a0	5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c	_5,.%transpose_6,.%masked_fill),
2e5c0	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
2e5e0	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
2e600	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
2e620	31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74	1',.'bert.encoder.layer.1.attent
2e640	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	ion',.'bert.encoder.layer.1.atte
2e660	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion.self',.'scaled_dot_product
2e680	5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	_attention_1']J....pkg.torch.onn
2e6a0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
2e6c0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
2e6e0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
2e700	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
2e720	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
2e740	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
2e760	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
2e780	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
2e7a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
2e7c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
2e7e0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
2e800	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
2e820	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
2e840	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
2e860	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
2e880	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
2e8a0	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
2e8c0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
2e8e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
2e900	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
2e920	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
2e940	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
2e960	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
2e980	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
2e9a0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
2e9c0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
2e9e0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
2ea00	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
2ea20	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
2ea40	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
2ea60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
2ea80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
2eaa0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
2eac0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.413,.in.forward...
2eae0	20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f	..attn_output.=.torch.nn.functio
2eb00	6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	nal.scaled_dot_product_attention
2eb20	28 0a bf 14 0a 07 76 61 6c 5f 31 37 38 12 07 76 61 6c 5f 31 37 39 1a 12 6e 6f 64 65 5f 54 72 61	(.....val_178..val_179..node_Tra
2eb40	6e 73 70 6f 73 65 5f 31 37 33 22 09 54 72 61 6e 73 70 6f 73 65 2a 0f 0a 04 70 65 72 6d 40 00 40	nspose_173".Transpose*...perm@.@
2eb60	02 40 01 a0 01 07 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f	.@....J....namespace...:.transfo
2eb80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
2eba0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
2ebc0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
2ebe0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
2ec00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
2ec20	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
2ec40	6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.1:.transformers.models.ber
2ec60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
2ec80	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.1.attention:.transf
2eca0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
2ecc0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
2ece0	72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.1.attention.self:.transformers
2ed00	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
2ed20	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	dpaSelfAttention/scaled_dot_prod
2ed40	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	uct_attention_1:.aten.scaled_dot
2ed60	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70	_product_attention.defaultJ....p
2ed80	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03	kg.torch.onnx.class_hierarchy...
2eda0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
2edc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
2ede0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
2ee00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
2ee20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
2ee40	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
2ee60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
2ee80	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
2eea0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
2eec0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
2eee0	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
2ef00	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
2ef20	65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
2ef40	6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ode...%scaled_dot_product_attent
2ef60	69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ion_1.:.[num_users=1].=.call_fun
2ef80	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c	ction[target=torch.ops.aten.scal
2efa0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
2efc0	5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f	](args.=.(%transpose_4,.%transpo
2efe0	73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c	se_5,.%transpose_6,.%masked_fill
2f000	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
2f020	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
2f040	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
2f060	72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	r.1',.'bert.encoder.layer.1.atte
2f080	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74	ntion',.'bert.encoder.layer.1.at
2f0a0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention.self',.'scaled_dot_produ
2f0c0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	ct_attention_1']J....pkg.torch.o
2f0e0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
2f100	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
2f120	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
2f140	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
2f160	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
2f180	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
2f1a0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
2f1c0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
2f1e0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
2f200	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
2f220	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
2f240	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
2f260	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
2f280	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
2f2a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
2f2c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
2f2e0	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
2f300	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
2f320	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
2f340	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
2f360	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
2f380	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
2f3a0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
2f3c0	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
2f3e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
2f400	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
2f420	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
2f440	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
2f460	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
2f480	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
2f4a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
2f4c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
2f4e0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
2f500	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.413,.in.forward.
2f520	20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74	....attn_output.=.torch.nn.funct
2f540	69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ional.scaled_dot_product_attenti
2f560	6f 6e 28 0a c7 14 0a 07 76 61 6c 5f 31 37 35 0a 07 76 61 6c 5f 31 37 32 0a 07 76 61 6c 5f 31 37	on(.....val_175..val_172..val_17
2f580	33 12 07 76 61 6c 5f 31 38 30 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 31 37 34 22 06 43 6f 6e	3..val_180..node_Concat_174".Con
2f5a0	63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83	cat*...axis.....J....namespace..
2f5c0	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
2f5e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
2f600	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
2f620	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
2f640	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
2f660	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
2f680	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.1:.transformers.
2f6a0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
2f6c0	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.1.attenti
2f6e0	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
2f700	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
2f720	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.1.attention.self:.tr
2f740	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
2f760	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65	bert.BertSdpaSelfAttention/scale
2f780	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e	d_dot_product_attention_1:.aten.
2f7a0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
2f7c0	61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
2f7e0	65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
2f800	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
2f820	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
2f840	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
2f860	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
2f880	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
2f8a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
2f8c0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
2f8e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
2f900	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
2f920	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
2f940	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion',.'aten.scaled_dot_product_a
2f960	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ttention.default']J....pkg.torch
2f980	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	.onnx.fx_node...%scaled_dot_prod
2f9a0	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	uct_attention_1.:.[num_users=1].
2f9c0	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
2f9e0	2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	.aten.scaled_dot_product_attenti
2fa00	6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34	on.default](args.=.(%transpose_4
2fa20	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d	,.%transpose_5,.%transpose_6,.%m
2fa40	61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b	asked_fill),.kwargs.=.{})J....pk
2fa60	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
2fa80	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
2faa0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.1',.'bert.encoder.la
2fac0	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.1.attention',.'bert.encoder.
2fae0	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64	layer.1.attention.self',.'scaled
2fb00	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70	_dot_product_attention_1']J....p
2fb20	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65	kg.torch.onnx.stack_trace...File
2fb40	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
2fb60	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
2fb80	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
2fba0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
2fbc0	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
2fbe0	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
2fc00	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
2fc20	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
2fc40	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
2fc60	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
2fc80	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
2fca0	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
2fcc0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
2fce0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
2fd00	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
2fd20	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
2fd40	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
2fd60	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
2fd80	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
2fda0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
2fdc0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
2fde0	6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65	ne.558,.in.forward.....self_atte
2fe00	6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a	ntion_outputs.=.self.attention(.
2fe20	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
2fe40	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
2fe60	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
2fe80	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
2fea0	20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f	.line.488,.in.forward.....self_o
2fec0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.self(...File."/hom
2fee0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
2ff00	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
2ff20	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
2ff40	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69	t/modeling_bert.py",.line.413,.i
2ff60	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63	n.forward.....attn_output.=.torc
2ff80	68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	h.nn.functional.scaled_dot_produ
2ffa0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c5 14 0a 07 76 61 6c 5f 31 37 39 0a 07 76 61 6c 5f 31	ct_attention(.....val_179..val_1
2ffc0	38 30 12 07 76 61 6c 5f 31 38 31 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 31 37 35 22 07 52	80..val_181..node_Reshape_175".R
2ffe0	65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d	eshape*...allowzero.....J....nam
30000	65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
30020	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
30040	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
30060	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
30080	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
300a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
300c0	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.1:.trans
300e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
30100	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	t.BertLayer/bert.encoder.layer.1
30120	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
30140	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
30160	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.1.attention.
30180	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
301a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
301c0	6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	on/scaled_dot_product_attention_
301e0	31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	1:.aten.scaled_dot_product_atten
30200	74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	tion.defaultJ....pkg.torch.onnx.
30220	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
30240	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
30260	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
30280	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
302a0	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
302c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
302e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
30300	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
30320	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
30340	72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	rtAttention',.'transformers.mode
30360	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
30380	6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	lfAttention',.'aten.scaled_dot_p
303a0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70	roduct_attention.default']J....p
303c0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f	kg.torch.onnx.fx_node...%scaled_
303e0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75	dot_product_attention_1.:.[num_u
30400	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
30420	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	orch.ops.aten.scaled_dot_product
30440	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61	_attention.default](args.=.(%tra
30460	6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f	nspose_4,.%transpose_5,.%transpo
30480	73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	se_6,.%masked_fill),.kwargs.=.{}
304a0	29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
304c0	12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
304e0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.1',.'bert.en
30500	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.1.attention',.'bert.
30520	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.1.attention.self',
30540	20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31	.'scaled_dot_product_attention_1
30560	27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
30580	65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
305a0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
305c0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
305e0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
30600	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
30620	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
30640	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
30660	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
30680	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
306a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
306c0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
306e0	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
30700	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
30720	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
30740	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
30760	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
30780	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
307a0	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
307c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
307e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
30800	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
30820	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
30840	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
30860	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
30880	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
308a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
308c0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
308e0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.488,.in.forward...
30900	20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69	..self_outputs.=.self.self(...Fi
30920	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
30940	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
30960	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
30980	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
309a0	65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75	e.413,.in.forward.....attn_outpu
309c0	74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64	t.=.torch.nn.functional.scaled_d
309e0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a af 14 0a 0b 74 72 61 6e 73 70	ot_product_attention(.....transp
30a00	6f 73 65 5f 34 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 31 38 33 1a 0c 6e 6f 64 65 5f 4d 75	ose_4..val_108..val_183..node_Mu
30a20	6c 5f 31 37 37 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61	l_177".MulJ....namespace...:.tra
30a40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
30a60	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
30a80	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
30aa0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
30ac0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
30ae0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
30b00	64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.1:.transformers.models
30b20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
30b40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.1.attention:.tr
30b60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
30b80	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
30ba0	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.1.attention.self:.transfor
30bc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
30be0	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f	ertSdpaSelfAttention/scaled_dot_
30c00	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64	product_attention_1:.aten.scaled
30c20	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab	_dot_product_attention.defaultJ.
30c40	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
30c60	79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
30c80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
30ca0	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
30cc0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
30ce0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
30d00	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
30d20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
30d40	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
30d60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
30d80	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
30da0	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
30dc0	27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	'aten.scaled_dot_product_attenti
30de0	6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	on.default']J....pkg.torch.onnx.
30e00	66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	fx_node...%scaled_dot_product_at
30e20	74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	tention_1.:.[num_users=1].=.call
30e40	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
30e60	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
30e80	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61	ault](args.=.(%transpose_4,.%tra
30ea0	6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f	nspose_5,.%transpose_6,.%masked_
30ec0	66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63	fill),.kwargs.=.{})J....pkg.torc
30ee0	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
30f00	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
30f20	6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e	layer.1',.'bert.encoder.layer.1.
30f40	61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	attention',.'bert.encoder.layer.
30f60	31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70	1.attention.self',.'scaled_dot_p
30f80	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72	roduct_attention_1']J....pkg.tor
30fa0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
30fc0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
30fe0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
31000	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
31020	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
31040	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
31060	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
31080	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
310a0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
310c0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
310e0	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
31100	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
31120	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
31140	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
31160	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
31180	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
311a0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
311c0	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
311e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
31200	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
31220	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
31240	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
31260	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
31280	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
312a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
312c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
312e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
31300	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
31320	34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73	488,.in.forward.....self_outputs
31340	20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.self(...File."/home/hsia
31360	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
31380	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
313a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
313c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.413,.in.forw
313e0	61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66	ard.....attn_output.=.torch.nn.f
31400	75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	unctional.scaled_dot_product_att
31420	65 6e 74 69 6f 6e 28 0a ab 14 0a 07 76 61 6c 5f 31 38 31 0a 07 76 61 6c 5f 31 30 38 12 07 76 61	ention(.....val_181..val_108..va
31440	6c 5f 31 38 35 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 31 37 39 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d	l_185..node_Mul_179".MulJ....nam
31460	65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
31480	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
314a0	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
314c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
314e0	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
31500	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
31520	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.1:.trans
31540	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
31560	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	t.BertLayer/bert.encoder.layer.1
31580	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
315a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
315c0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.1.attention.
315e0	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
31600	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
31620	6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	on/scaled_dot_product_attention_
31640	31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	1:.aten.scaled_dot_product_atten
31660	74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	tion.defaultJ....pkg.torch.onnx.
31680	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
316a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
316c0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
316e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
31700	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
31720	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
31740	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
31760	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
31780	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
317a0	72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	rtAttention',.'transformers.mode
317c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
317e0	6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	lfAttention',.'aten.scaled_dot_p
31800	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70	roduct_attention.default']J....p
31820	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f	kg.torch.onnx.fx_node...%scaled_
31840	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75	dot_product_attention_1.:.[num_u
31860	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
31880	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	orch.ops.aten.scaled_dot_product
318a0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61	_attention.default](args.=.(%tra
318c0	6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f	nspose_4,.%transpose_5,.%transpo
318e0	73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	se_6,.%masked_fill),.kwargs.=.{}
31900	29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
31920	12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
31940	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.1',.'bert.en
31960	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.1.attention',.'bert.
31980	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.1.attention.self',
319a0	20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31	.'scaled_dot_product_attention_1
319c0	27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
319e0	65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
31a00	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
31a20	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
31a40	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
31a60	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
31a80	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
31aa0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
31ac0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
31ae0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
31b00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
31b20	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
31b40	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
31b60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
31b80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
31ba0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
31bc0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
31be0	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
31c00	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
31c20	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
31c40	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
31c60	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
31c80	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
31ca0	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
31cc0	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
31ce0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
31d00	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
31d20	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
31d40	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.488,.in.forward...
31d60	20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69	..self_outputs.=.self.self(...Fi
31d80	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
31da0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
31dc0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
31de0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
31e00	65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75	e.413,.in.forward.....attn_outpu
31e20	74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64	t.=.torch.nn.functional.scaled_d
31e40	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b1 14 0a 07 76 61 6c 5f 31 38	ot_product_attention(.....val_18
31e60	33 0a 07 76 61 6c 5f 31 38 35 12 07 76 61 6c 5f 31 38 36 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c	3..val_185..val_186..node_MatMul
31e80	5f 31 38 30 22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74	_180".MatMulJ....namespace...:.t
31ea0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
31ec0	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
31ee0	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
31f00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
31f20	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
31f40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
31f60	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.1:.transformers.mode
31f80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
31fa0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.1.attention:.
31fc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
31fe0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
32000	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.1.attention.self:.transf
32020	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
32040	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f	.BertSdpaSelfAttention/scaled_do
32060	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c	t_product_attention_1:.aten.scal
32080	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
320a0	4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
320c0	63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
320e0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
32100	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
32120	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
32140	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
32160	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
32180	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
321a0	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
321c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27	ert.modeling_bert.BertAttention'
321e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
32200	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27	ling_bert.BertSdpaSelfAttention'
32220	2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	,.'aten.scaled_dot_product_atten
32240	74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	tion.default']J....pkg.torch.onn
32260	78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	x.fx_node...%scaled_dot_product_
32280	61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	attention_1.:.[num_users=1].=.ca
322a0	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
322c0	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
322e0	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74	efault](args.=.(%transpose_4,.%t
32300	72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65	ranspose_5,.%transpose_6,.%maske
32320	64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f	d_fill),.kwargs.=.{})J....pkg.to
32340	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
32360	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
32380	72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.1',.'bert.encoder.layer.
323a0	31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	1.attention',.'bert.encoder.laye
323c0	72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74	r.1.attention.self',.'scaled_dot
323e0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74	_product_attention_1']J....pkg.t
32400	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
32420	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
32440	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
32460	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
32480	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
324a0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
324c0	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
324e0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
32500	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
32520	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
32540	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
32560	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
32580	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
325a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
325c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
325e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
32600	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
32620	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
32640	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
32660	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
32680	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
326a0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
326c0	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
326e0	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
32700	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
32720	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
32740	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
32760	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
32780	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
327a0	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
327c0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
327e0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
32800	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
32820	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.413,.in.fo
32840	72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e	rward.....attn_output.=.torch.nn
32860	2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.functional.scaled_dot_product_a
32880	74 74 65 6e 74 69 6f 6e 28 0a af 14 0a 07 76 61 6c 5f 31 38 36 0a 0b 6d 61 73 6b 65 64 5f 66 69	ttention(.....val_186..masked_fi
328a0	6c 6c 12 07 76 61 6c 5f 31 38 37 1a 0c 6e 6f 64 65 5f 41 64 64 5f 31 38 31 22 03 41 64 64 4a 91	ll..val_187..node_Add_181".AddJ.
328c0	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
328e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
32900	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
32920	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
32940	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
32960	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
32980	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a	ertEncoder/bert.encoder.layer.1:
329a0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
329c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
329e0	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.1.attention:.transformers.m
32a00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
32a20	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	ention/bert.encoder.layer.1.atte
32a40	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
32a60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
32a80	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
32aa0	6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_1:.aten.scaled_dot_product
32ac0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
32ae0	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
32b00	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
32b20	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
32b40	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
32b60	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
32b80	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
32ba0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
32bc0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
32be0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
32c00	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
32c20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
32c40	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
32c60	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
32c80	4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9 01 25 73	J....pkg.torch.onnx.fx_node...%s
32ca0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 20 3a 20	caled_dot_product_attention_1.:.
32cc0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
32ce0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
32d00	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
32d20	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c 20 25 74	.(%transpose_4,.%transpose_5,.%t
32d40	72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	ranspose_6,.%masked_fill),.kwarg
32d60	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
32d80	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
32da0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62	der',.'bert.encoder.layer.1',.'b
32dc0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.1.attention',.
32de0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.1.attention.
32e00	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
32e20	74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_1']J....pkg.torch.onnx.stac
32e40	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
32e60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
32e80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
32ea0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
32ec0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
32ee0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
32f00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
32f20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
32f40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
32f60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
32f80	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
32fa0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
32fc0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
32fe0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
33000	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
33020	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
33040	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
33060	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
33080	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
330a0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
330c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
330e0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
33100	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
33120	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
33140	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
33160	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
33180	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
331a0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
331c0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
331e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
33200	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
33220	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
33240	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
33260	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
33280	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
332a0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c0 14 0a 07	aled_dot_product_attention(.....
332c0	76 61 6c 5f 31 38 37 12 07 76 61 6c 5f 31 38 38 1a 10 6e 6f 64 65 5f 53 6f 66 74 6d 61 78 5f 31	val_187..val_188..node_Softmax_1
332e0	38 32 22 07 53 6f 66 74 6d 61 78 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01	82".Softmax*...axis.............
33300	02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.J....namespace...:.transformers
33320	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
33340	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
33360	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
33380	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
333a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
333c0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
333e0	2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.1:.transformers.models.bert.mod
33400	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
33420	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.1.attention:.transformer
33440	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
33460	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	Attention/bert.encoder.layer.1.a
33480	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ttention.self:.transformers.mode
334a0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
334c0	6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	lfAttention/scaled_dot_product_a
334e0	74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ttention_1:.aten.scaled_dot_prod
33500	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f	uct_attention.defaultJ....pkg.to
33520	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
33540	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
33560	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
33580	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
335a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertModel',.'transforme
335c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
335e0	74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	tEncoder',.'transformers.models.
33600	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27	bert.modeling_bert.BertLayer',.'
33620	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
33640	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	g_bert.BertAttention',.'transfor
33660	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
33680	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61	ertSdpaSelfAttention',.'aten.sca
336a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
336c0	74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c9	t']J....pkg.torch.onnx.fx_node..
336e0	01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31	.%scaled_dot_product_attention_1
33700	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
33720	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	[target=torch.ops.aten.scaled_do
33740	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	t_product_attention.default](arg
33760	73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 35 2c	s.=.(%transpose_4,.%transpose_5,
33780	20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	.%transpose_6,.%masked_fill),.kw
337a0	61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
337c0	6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
337e0	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c	ncoder',.'bert.encoder.layer.1',
33800	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.1.attention
33820	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.1.attenti
33840	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
33860	74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	tention_1']J....pkg.torch.onnx.s
33880	74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
338a0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
338c0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
338e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
33900	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
33920	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
33940	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
33960	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
33980	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
339a0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
339c0	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
339e0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
33a00	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
33a20	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
33a40	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
33a60	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
33a80	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
33aa0	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
33ac0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
33ae0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
33b00	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
33b20	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
33b40	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
33b60	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
33b80	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
33ba0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
33bc0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
33be0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
33c00	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
33c20	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
33c40	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
33c60	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
33c80	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
33ca0	2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61	.py",.line.413,.in.forward.....a
33cc0	74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c	ttn_output.=.torch.nn.functional
33ce0	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a e0	.scaled_dot_product_attention(..
33d00	14 0a 07 76 61 6c 5f 31 38 38 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 36 12 1e 73 63 61 6c 65 64 5f	...val_188..transpose_6..scaled_
33d20	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 1a 23 6e 6f 64 65 5f 73 63	dot_product_attention_1.#node_sc
33d40	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 22 06 4d 61	aled_dot_product_attention_1".Ma
33d60	74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d	tMulJ....namespace...:.transform
33d80	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
33da0	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74	rtForTokenClassification/bert:.t
33dc0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
33de0	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72	_bert.BertModel/bert.encoder:.tr
33e00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
33e20	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	bert.BertEncoder/bert.encoder.la
33e40	79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer.1:.transformers.models.bert.
33e60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertLayer/bert.enc
33e80	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72	oder.layer.1.attention:.transfor
33ea0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
33ec0	65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ertAttention/bert.encoder.layer.
33ee0	31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	1.attention.self:.transformers.m
33f00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
33f20	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	aSelfAttention/scaled_dot_produc
33f40	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	t_attention_1:.aten.scaled_dot_p
33f60	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67	roduct_attention.defaultJ....pkg
33f80	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27	.torch.onnx.class_hierarchy...['
33fa0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
33fc0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
33fe0	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
34000	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertModel',.'transfo
34020	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
34040	42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	BertEncoder',.'transformers.mode
34060	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27	ls.bert.modeling_bert.BertLayer'
34080	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
340a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	ling_bert.BertAttention',.'trans
340c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
340e0	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e	t.BertSdpaSelfAttention',.'aten.
34100	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
34120	61 75 6c 74 27 5d 4a e4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
34140	65 12 c9 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	e...%scaled_dot_product_attentio
34160	6e 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	n_1.:.[num_users=1].=.call_funct
34180	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64	ion[target=torch.ops.aten.scaled
341a0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28	_dot_product_attention.default](
341c0	61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 34 2c 20 25 74 72 61 6e 73 70 6f 73 65	args.=.(%transpose_4,.%transpose
341e0	5f 35 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 36 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c	_5,.%transpose_6,.%masked_fill),
34200	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
34220	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
34240	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
34260	31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74	1',.'bert.encoder.layer.1.attent
34280	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	ion',.'bert.encoder.layer.1.atte
342a0	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion.self',.'scaled_dot_product
342c0	5f 61 74 74 65 6e 74 69 6f 6e 5f 31 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	_attention_1']J....pkg.torch.onn
342e0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
34300	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
34320	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
34340	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
34360	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
34380	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
343a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
343c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
343e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
34400	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
34420	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
34440	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
34460	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
34480	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
344a0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
344c0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
344e0	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
34500	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
34520	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
34540	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
34560	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
34580	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
345a0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
345c0	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
345e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
34600	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
34620	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
34640	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
34660	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
34680	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
346a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
346c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
346e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
34700	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.413,.in.forward...
34720	20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f	..attn_output.=.torch.nn.functio
34740	6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	nal.scaled_dot_product_attention
34760	28 0a b5 13 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	(.....scaled_dot_product_attenti
34780	6f 6e 5f 31 12 0b 74 72 61 6e 73 70 6f 73 65 5f 37 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73	on_1..transpose_7..node_transpos
347a0	65 5f 37 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01	e_7".Transpose*...perm@.@.@.@...
347c0	07 4a e7 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.J....namespace...:.transformers
347e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
34800	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
34820	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
34840	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
34860	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
34880	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
348a0	2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.1:.transformers.models.bert.mod
348c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
348e0	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.1.attention:.transformer
34900	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
34920	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	Attention/bert.encoder.layer.1.a
34940	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ttention.self:.transformers.mode
34960	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
34980	6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 37 3a 20 61 74 65 6e 2e 74 72	lfAttention/transpose_7:.aten.tr
349a0	61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	anspose.intJ....pkg.torch.onnx.c
349c0	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
349e0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
34a00	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
34a20	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
34a40	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
34a60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
34a80	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
34aa0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
34ac0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
34ae0	74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tAttention',.'transformers.model
34b00	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
34b20	66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74	fAttention',.'aten.transpose.int
34b40	27 5d 4a a9 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8e 01	']J....pkg.torch.onnx.fx_node...
34b60	25 74 72 61 6e 73 70 6f 73 65 5f 37 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	%transpose_7.:.[num_users=1].=.c
34b80	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
34ba0	65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 73 63 61 6c 65	en.transpose.int](args.=.(%scale
34bc0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 2c 20 31 2c 20 32 29	d_dot_product_attention_1,.1,.2)
34be0	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
34c00	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
34c20	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
34c40	2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e	.1',.'bert.encoder.layer.1.atten
34c60	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	tion',.'bert.encoder.layer.1.att
34c80	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 37 27 5d 4a fa 08 0a	ention.self',.'transpose_7']J...
34ca0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 db 08 46 69	.pkg.torch.onnx.stack_trace...Fi
34cc0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
34ce0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
34d00	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
34d20	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
34d40	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
34d60	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
34d80	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
34da0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
34dc0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
34de0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
34e00	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
34e20	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
34e40	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
34e60	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
34e80	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
34ea0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
34ec0	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
34ee0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
34f00	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
34f20	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
34f40	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
34f60	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
34f80	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
34fa0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
34fc0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
34fe0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
35000	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
35020	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
35040	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
35060	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
35080	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
350a0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
350c0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 32 2c	ert/modeling_bert.py",.line.422,
350e0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74	.in.forward.....attn_output.=.at
35100	74 6e 5f 6f 75 74 70 75 74 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a b8 13 0a 0b 74 72	tn_output.transpose(1,.2).....tr
35120	61 6e 73 70 6f 73 65 5f 37 0a 07 76 61 6c 5f 31 31 39 12 06 76 69 65 77 5f 37 1a 0b 6e 6f 64 65	anspose_7..val_119..view_7..node
35140	5f 76 69 65 77 5f 37 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0	_view_7".Reshape*...allowzero...
35160	01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	..J....namespace...:.transformer
35180	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
351a0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
351c0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
351e0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
35200	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
35220	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
35240	72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.1:.transformers.models.bert.mo
35260	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
35280	65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.1.attention:.transforme
352a0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
352c0	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e	tAttention/bert.encoder.layer.1.
352e0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
35300	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
35320	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 37 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64	elfAttention/view_7:.aten.view.d
35340	65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	efaultJ....pkg.torch.onnx.class_
35360	68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
35380	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
353a0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
353c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
353e0	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
35400	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
35420	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
35440	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
35460	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
35480	6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ntion',.'transformers.models.ber
354a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
354c0	6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a b5 01 0a	ntion',.'aten.view.default']J...
354e0	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9a 01 25 76 69 65 77 5f	.pkg.torch.onnx.fx_node...%view_
35500	37 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	7.:.[num_users=1].=.call_functio
35520	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66	n[target=torch.ops.aten.view.def
35540	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 37 2c 20 5b 25 73 79	ault](args.=.(%transpose_7,.[%sy
35560	6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 2c	m_size_int_45,.%sym_size_int_48,
35580	20 32 35 36 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67 2e 74 6f 72	.256]),.kwargs.=.{})J....pkg.tor
355a0	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
355c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
355e0	2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	.layer.1',.'bert.encoder.layer.1
35600	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
35620	2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 37 27 5d 4a 94 09	.1.attention.self',.'view_7']J..
35640	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f5 08 46	..pkg.torch.onnx.stack_trace...F
35660	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
35680	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
356a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
356c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
356e0	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
35700	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
35720	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
35740	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
35760	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
35780	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
357a0	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
357c0	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
357e0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
35800	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
35820	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
35840	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
35860	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
35880	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
358a0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
358c0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
358e0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
35900	20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61	.line.558,.in.forward.....self_a
35920	74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f	ttention_outputs.=.self.attentio
35940	6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	n(...File."/home/hsiangnianian/g
35960	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
35980	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
359a0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
359c0	79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.488,.in.forward.....sel
359e0	66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f	f_outputs.=.self.self(...File."/
35a00	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
35a20	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
35a40	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
35a60	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 33	bert/modeling_bert.py",.line.423
35a80	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61	,.in.forward.....attn_output.=.a
35aa0	74 74 6e 5f 6f 75 74 70 75 74 2e 72 65 73 68 61 70 65 28 62 73 7a 2c 20 74 67 74 5f 6c 65 6e 2c	ttn_output.reshape(bsz,.tgt_len,
35ac0	20 73 65 6c 66 2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65 29 0a c5 16 0a 06 76 69 65 77 5f 37 0a	.self.all_head_size).....view_7.
35ae0	07 76 61 6c 5f 31 39 34 12 07 76 61 6c 5f 31 39 35 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31	.val_194..val_195..node_MatMul_1
35b00	38 39 22 06 4d 61 74 4d 75 6c 4a ac 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9e 04 3a 20 74 72 61	89".MatMulJ....namespace...:.tra
35b20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
35b40	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
35b60	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
35b80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
35ba0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
35bc0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
35be0	64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.1:.transformers.models
35c00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
35c20	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.1.attention:.tr
35c40	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
35c60	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
35c80	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66	layer.1.attention.output:.transf
35ca0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
35cc0	2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.BertSelfOutput/bert.encoder.lay
35ce0	65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72	er.1.attention.output.dense:.tor
35d00	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
35d20	61 72 5f 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b	ar_9:.aten.linear.defaultJ....pk
35d40	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b	g.torch.onnx.class_hierarchy...[
35d60	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
35d80	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
35da0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
35dc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
35de0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
35e00	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
35e20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
35e40	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
35e60	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
35e80	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
35ea0	72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f	rt.BertSelfOutput',.'torch.nn.mo
35ec0	64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65	dules.linear.Linear',.'aten.line
35ee0	61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ar.default']J....pkg.torch.onnx.
35f00	66 78 5f 6e 6f 64 65 12 da 01 25 6c 69 6e 65 61 72 5f 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73	fx_node...%linear_9.:.[num_users
35f20	3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68	=1].=.call_function[target=torch
35f40	2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	.ops.aten.linear.default](args.=
35f60	20 28 25 76 69 65 77 5f 37 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	.(%view_7,.%p_bert_encoder_layer
35f80	5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74	_1_attention_output_dense_weight
35fa0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_1_attent
35fc0	69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d	ion_output_dense_bias),.kwargs.=
35fe0	20 7b 7d 29 4a d9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f	.{})J....pkg.torch.onnx.name_sco
36000	70 65 73 12 ba 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	pes...['',.'bert',.'bert.encoder
36020	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74	',.'bert.encoder.layer.1',.'bert
36040	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65	.encoder.layer.1.attention',.'be
36060	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.1.attention.out
36080	70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	put',.'bert.encoder.layer.1.atte
360a0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 39 27 5d	ntion.output.dense',.'linear_9']
360c0	4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
360e0	ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
36100	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
36120	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
36140	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
36160	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
36180	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
361a0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
361c0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
361e0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
36200	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
36220	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
36240	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
36260	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
36280	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
362a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
362c0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
362e0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
36300	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
36320	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
36340	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
36360	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
36380	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
363a0	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
363c0	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
363e0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
36400	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
36420	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
36440	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.497,.in.forward.....
36460	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73	attention_output.=.self.output(s
36480	65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	elf_outputs[0],.hidden_states)..
364a0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
364c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
364e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
36500	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
36520	6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f	line.436,.in.forward.....hidden_
36540	73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65	states.=.self.dense(hidden_state
36560	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
36580	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
365a0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e	ython3.10/site-packages/torch/nn
365c0	2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69	/modules/linear.py",.line.134,.i
365e0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e	n.forward.....return.F.linear(in
36600	70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a eb 16 0a	put,.self.weight,.self.bias)....
36620	07 76 61 6c 5f 31 39 35 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	.val_195.0bert.encoder.layer.1.a
36640	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 08 6c 69 6e 65	ttention.output.dense.bias..line
36660	61 72 5f 39 1a 0d 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 39 22 03 41 64 64 4a ac 04 0a 09 6e 61 6d	ar_9..node_linear_9".AddJ....nam
36680	65 73 70 61 63 65 12 9e 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
366a0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
366c0	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
366e0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
36700	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
36720	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
36740	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.1:.trans
36760	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
36780	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	t.BertLayer/bert.encoder.layer.1
367a0	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
367c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
367e0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.1.attention.
36800	6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	output:.transformers.models.bert
36820	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65	.modeling_bert.BertSelfOutput/be
36840	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.1.attention.out
36860	70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65	put.dense:.torch.nn.modules.line
36880	61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	ar.Linear/linear_9:.aten.linear.
368a0	64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
368c0	5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
368e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
36900	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
36920	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
36940	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
36960	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
36980	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
369a0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
369c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
369e0	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
36a00	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27	rt.modeling_bert.BertSelfOutput'
36a20	2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	,.'torch.nn.modules.linear.Linea
36a40	72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f5 01 0a 16 70	r',.'aten.linear.default']J....p
36a60	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 da 01 25 6c 69 6e 65 61 72 5f	kg.torch.onnx.fx_node...%linear_
36a80	39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	9.:.[num_users=1].=.call_functio
36aa0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	n[target=torch.ops.aten.linear.d
36ac0	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 37 2c 20 25 70 5f 62 65 72 74	efault](args.=.(%view_7,.%p_bert
36ae0	5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	_encoder_layer_1_attention_outpu
36b00	74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	t_dense_weight,.%p_bert_encoder_
36b20	6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62	layer_1_attention_output_dense_b
36b40	69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ias),.kwargs.=.{})J....pkg.torch
36b60	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 ba 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
36b80	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
36ba0	61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	ayer.1',.'bert.encoder.layer.1.a
36bc0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	ttention',.'bert.encoder.layer.1
36be0	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	.attention.output',.'bert.encode
36c00	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	r.layer.1.attention.output.dense
36c20	27 2c 20 27 6c 69 6e 65 61 72 5f 39 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	',.'linear_9']J....pkg.torch.onn
36c40	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
36c60	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
36c80	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
36ca0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
36cc0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
36ce0	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
36d00	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
36d20	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
36d40	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
36d60	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
36d80	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
36da0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
36dc0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
36de0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
36e00	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
36e20	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
36e40	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
36e60	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
36e80	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
36ea0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
36ec0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
36ee0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
36f00	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
36f20	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
36f40	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
36f60	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
36f80	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
36fa0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69	t/modeling_bert.py",.line.497,.i
36fc0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d	n.forward.....attention_output.=
36fe0	20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69	.self.output(self_outputs[0],.hi
37000	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
37020	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
37040	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
37060	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
37080	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.436,.in.forwa
370a0	72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73	rd.....hidden_states.=.self.dens
370c0	65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	e(hidden_states)...File."/home/h
370e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
37100	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
37120	6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79	kages/torch/nn/modules/linear.py
37140	22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75	",.line.134,.in.forward.....retu
37160	72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20	rn.F.linear(input,.self.weight,.
37180	73 65 6c 66 2e 62 69 61 73 29 0a 96 13 0a 08 6c 69 6e 65 61 72 5f 39 0a 0c 6c 61 79 65 72 5f 6e	self.bias).....linear_9..layer_n
371a0	6f 72 6d 5f 32 12 07 61 64 64 5f 32 30 30 1a 0c 6e 6f 64 65 5f 61 64 64 5f 32 30 30 22 03 41 64	orm_2..add_200..node_add_200".Ad
371c0	64 4a db 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 cd 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	dJ....namespace...:.transformers
371e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
37200	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
37220	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
37240	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
37260	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
37280	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
372a0	2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.1:.transformers.models.bert.mod
372c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
372e0	72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.1.attention:.transformer
37300	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
37320	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	Attention/bert.encoder.layer.1.a
37340	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ttention.output:.transformers.mo
37360	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66	dels.bert.modeling_bert.BertSelf
37380	4f 75 74 70 75 74 2f 61 64 64 5f 32 30 30 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a	Output/add_200:.aten.add.TensorJ
373a0	8a 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
373c0	68 79 12 e7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
373e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
37400	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
37420	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
37440	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
37460	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
37480	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
374a0	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
374c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
374e0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
37500	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e	ing_bert.BertSelfOutput',.'aten.
37520	61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	add.Tensor']J....pkg.torch.onnx.
37540	66 78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 32 30 30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	fx_node.y%add_200.:.[num_users=1
37560	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
37580	70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f	ps.aten.add.Tensor](args.=.(%clo
375a0	6e 65 5f 34 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	ne_4,.%layer_norm_2),.kwargs.=.{
375c0	7d 29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	})J....pkg.torch.onnx.name_scope
375e0	73 12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c	s...['',.'bert',.'bert.encoder',
37600	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65	.'bert.encoder.layer.1',.'bert.e
37620	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74	ncoder.layer.1.attention',.'bert
37640	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75	.encoder.layer.1.attention.outpu
37660	74 27 2c 20 27 61 64 64 5f 32 30 30 27 5d 4a b2 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	t',.'add_200']J....pkg.torch.onn
37680	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 93 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
376a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
376c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
376e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
37700	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
37720	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
37740	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
37760	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
37780	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
377a0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
377c0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
377e0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
37800	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
37820	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
37840	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
37860	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
37880	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
378a0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
378c0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
378e0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
37900	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
37920	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
37940	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
37960	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
37980	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
379a0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
379c0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
379e0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69	t/modeling_bert.py",.line.497,.i
37a00	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d	n.forward.....attention_output.=
37a20	20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69	.self.output(self_outputs[0],.hi
37a40	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
37a60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
37a80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
37aa0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
37ac0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.438,.in.forwa
37ae0	72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65	rd.....hidden_states.=.self.Laye
37b00	72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73	rNorm(hidden_states.+.input_tens
37b20	6f 72 29 0a c5 18 0a 07 61 64 64 5f 32 30 30 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	or).....add_200.6bert.encoder.la
37b40	79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d	yer.1.attention.output.LayerNorm
37b60	2e 77 65 69 67 68 74 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74	.weight.4bert.encoder.layer.1.at
37b80	74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c	tention.output.LayerNorm.bias..l
37ba0	61 79 65 72 5f 6e 6f 72 6d 5f 33 1a 11 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 22 12	ayer_norm_3..node_layer_norm_3".
37bc0	4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65	LayerNormalization*...stash_type
37be0	18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73	.....*...epsilon....+...*...axis
37c00	18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a c2 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 b4 04 3a	..............J....namespace...:
37c20	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
37c40	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
37c60	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
37c80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
37ca0	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
37cc0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
37ce0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.1:.transformers.mo
37d00	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
37d20	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e	r/bert.encoder.layer.1.attention
37d40	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
37d60	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	ing_bert.BertAttention/bert.enco
37d80	64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72	der.layer.1.attention.output:.tr
37da0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
37dc0	62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	bert.BertSelfOutput/bert.encoder
37de0	2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e	.layer.1.attention.output.LayerN
37e00	6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74	orm:.torch.nn.modules.normalizat
37e20	69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 3a 20 61 74 65 6e	ion.LayerNorm/layer_norm_3:.aten
37e40	2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a be 03 0a 1e 70 6b 67 2e 74 6f 72 63	.layer_norm.defaultJ....pkg.torc
37e60	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 9b 03 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
37e80	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
37ea0	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
37ec0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
37ee0	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
37f00	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
37f20	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
37f40	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
37f60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
37f80	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
37fa0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
37fc0	74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	tSelfOutput',.'torch.nn.modules.
37fe0	6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e	normalization.LayerNorm',.'aten.
38000	6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 94 02 0a 16 70 6b 67 2e 74 6f 72	layer_norm.default']J....pkg.tor
38020	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 f9 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 20	ch.onnx.fx_node...%layer_norm_3.
38040	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=2].=.call_function[
38060	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d	target=torch.ops.aten.layer_norm
38080	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 32 30 30 2c 20 5b 32 35 36	.default](args.=.(%add_200,.[256
380a0	5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e	],.%p_bert_encoder_layer_1_atten
380c0	74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70	tion_output_layernorm_weight,.%p
380e0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_1_attention_
38100	6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b	output_layernorm_bias,.1e-12),.k
38120	77 61 72 67 73 20 3d 20 7b 7d 29 4a e1 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	wargs.=.{})J....pkg.torch.onnx.n
38140	61 6d 65 5f 73 63 6f 70 65 73 12 c2 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	ame_scopes...['',.'bert',.'bert.
38160	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27	encoder',.'bert.encoder.layer.1'
38180	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.1.attentio
381a0	6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74	n',.'bert.encoder.layer.1.attent
381c0	69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ion.output',.'bert.encoder.layer
381e0	2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20	.1.attention.output.LayerNorm',.
38200	27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	'layer_norm_3']J....pkg.torch.on
38220	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
38240	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
38260	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
38280	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
382a0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
382c0	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
382e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
38300	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
38320	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
38340	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
38360	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
38380	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
383a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
383c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
383e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
38400	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
38420	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
38440	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
38460	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
38480	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
384a0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
384c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
384e0	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
38500	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
38520	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
38540	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
38560	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
38580	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20	rt/modeling_bert.py",.line.497,.
385a0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20	in.forward.....attention_output.
385c0	3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68	=.self.output(self_outputs[0],.h
385e0	69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	idden_states)...File."/home/hsia
38600	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
38620	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
38640	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
38660	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.438,.in.forw
38680	61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79	ard.....hidden_states.=.self.Lay
386a0	65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e	erNorm(hidden_states.+.input_ten
386c0	73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	sor)...File."/home/hsiangnianian
386e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
38700	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f	/python3.10/site-packages/torch/
38720	6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69	nn/modules/normalization.py",.li
38740	6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e	ne.229,.in.forward.....return.F.
38760	6c 61 79 65 72 5f 6e 6f 72 6d 28 0a b9 13 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 0a 07 76 61	layer_norm(.....layer_norm_3..va
38780	6c 5f 31 39 38 12 07 76 61 6c 5f 31 39 39 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 31 39 31 22	l_198..val_199..node_MatMul_191"
387a0	06 4d 61 74 4d 75 6c 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66	.MatMulJ....namespace...:.transf
387c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
387e0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
38800	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
38820	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
38840	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
38860	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
38880	2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.1:.transformers.models.be
388a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
388c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72	encoder.layer.1.intermediate:.tr
388e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
38900	62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64	bert.BertIntermediate/bert.encod
38920	65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74	er.layer.1.intermediate.dense:.t
38940	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69	orch.nn.modules.linear.Linear/li
38960	6e 65 61 72 5f 31 30 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a	near_10:.aten.linear.defaultJ...
38980	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
389a0	d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
389c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
389e0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
38a00	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
38a20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
38a40	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
38a60	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
38a80	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
38aa0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c	modeling_bert.BertIntermediate',
38ac0	20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72	.'torch.nn.modules.linear.Linear
38ae0	27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b	',.'aten.linear.default']J....pk
38b00	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 31	g.torch.onnx.fx_node...%linear_1
38b20	30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	0.:.[num_users=1].=.call_functio
38b40	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	n[target=torch.ops.aten.linear.d
38b60	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 2c 20 25	efault](args.=.(%layer_norm_3,.%
38b80	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 69 6e 74 65 72 6d 65 64 69	p_bert_encoder_layer_1_intermedi
38ba0	61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ate_dense_weight,.%p_bert_encode
38bc0	72 5f 6c 61 79 65 72 5f 31 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61	r_layer_1_intermediate_dense_bia
38be0	73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	s),.kwargs.=.{})J....pkg.torch.o
38c00	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
38c20	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
38c40	65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74	er.1',.'bert.encoder.layer.1.int
38c60	65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ermediate',.'bert.encoder.layer.
38c80	31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31	1.intermediate.dense',.'linear_1
38ca0	30 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	0']J....pkg.torch.onnx.stack_tra
38cc0	63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
38ce0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
38d00	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
38d20	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
38d40	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
38d60	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
38d80	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
38da0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
38dc0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
38de0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
38e00	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
38e20	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
38e40	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
38e60	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
38e80	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
38ea0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
38ec0	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
38ee0	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
38f00	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
38f20	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
38f40	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
38f60	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.588,.in.forward.....
38f80	6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f	layer_output.=.apply_chunking_to
38fa0	5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	_forward(...File."/home/hsiangni
38fc0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
38fe0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
39000	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
39020	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.512,.in.forward.
39040	20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68	....hidden_states.=.self.dense(h
39060	69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	idden_states)...File."/home/hsia
39080	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
390a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
390c0	65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20	es/torch/nn/modules/linear.py",.
390e0	6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20	line.134,.in.forward.....return.
39100	46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c	F.linear(input,.self.weight,.sel
39120	66 2e 62 69 61 73 29 0a d7 13 0a 07 76 61 6c 5f 31 39 39 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65	f.bias).....val_199.,bert.encode
39140	72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61	r.layer.1.intermediate.dense.bia
39160	73 12 09 6c 69 6e 65 61 72 5f 31 30 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 30 22 03 41 64	s..linear_10..node_linear_10".Ad
39180	64 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	dJ....namespace...:.transformers
391a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
391c0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
391e0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
39200	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
39220	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
39240	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
39260	2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.1:.transformers.models.bert.mod
39280	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
392a0	72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72	r.layer.1.intermediate:.transfor
392c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
392e0	65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ertIntermediate/bert.encoder.lay
39300	65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e	er.1.intermediate.dense:.torch.n
39320	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31	n.modules.linear.Linear/linear_1
39340	30 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74	0:.aten.linear.defaultJ....pkg.t
39360	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
39380	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
393a0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
393c0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
393e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
39400	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
39420	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
39440	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
39460	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
39480	6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63	ng_bert.BertIntermediate',.'torc
394a0	68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74	h.nn.modules.linear.Linear',.'at
394c0	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63	en.linear.default']J....pkg.torc
394e0	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 31 30 20 3a 20 5b 6e	h.onnx.fx_node...%linear_10.:.[n
39500	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
39520	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	et=torch.ops.aten.linear.default
39540	5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 2c 20 25 70 5f 62 65 72 74	](args.=.(%layer_norm_3,.%p_bert
39560	5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65	_encoder_layer_1_intermediate_de
39580	6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	nse_weight,.%p_bert_encoder_laye
395a0	72 5f 31 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77	r_1_intermediate_dense_bias),.kw
395c0	61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
395e0	6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
39600	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c	ncoder',.'bert.encoder.layer.1',
39620	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69	.'bert.encoder.layer.1.intermedi
39640	61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65	ate',.'bert.encoder.layer.1.inte
39660	72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 30 27 5d 4a 81 09	rmediate.dense',.'linear_10']J..
39680	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46	..pkg.torch.onnx.stack_trace...F
396a0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
396c0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
396e0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
39700	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
39720	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
39740	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
39760	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
39780	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
397a0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
397c0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
397e0	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
39800	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
39820	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
39840	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
39860	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
39880	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
398a0	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
398c0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
398e0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
39900	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
39920	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
39940	20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.588,.in.forward.....layer_
39960	6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61	output.=.apply_chunking_to_forwa
39980	72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rd(...File."/home/hsiangnianian/
399a0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
399c0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
399e0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
39a00	70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69	py",.line.512,.in.forward.....hi
39a20	64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f	dden_states.=.self.dense(hidden_
39a40	73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	states)...File."/home/hsiangnian
39a60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
39a80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72	lib/python3.10/site-packages/tor
39aa0	63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31	ch/nn/modules/linear.py",.line.1
39ac0	33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65	34,.in.forward.....return.F.line
39ae0	61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73	ar(input,.self.weight,.self.bias
39b00	29 0a de 12 0a 09 6c 69 6e 65 61 72 5f 31 30 0a 07 76 61 6c 5f 31 32 36 12 07 76 61 6c 5f 32 30	).....linear_10..val_126..val_20
39b20	31 1a 0c 6e 6f 64 65 5f 44 69 76 5f 31 39 33 22 03 44 69 76 4a e4 03 0a 09 6e 61 6d 65 73 70 61	1..node_Div_193".DivJ....namespa
39b40	63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
39b60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
39b80	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
39ba0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
39bc0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
39be0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
39c00	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.1:.transform
39c20	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
39c40	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74	rtLayer/bert.encoder.layer.1.int
39c60	65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ermediate:.transformers.models.b
39c80	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61	ert.modeling_bert.BertIntermedia
39ca0	74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64	te/bert.encoder.layer.1.intermed
39cc0	69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66	iate.intermediate_act_fn:.transf
39ce0	6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f	ormers.activations.GELUActivatio
39d00	6e 2f 67 65 6c 75 5f 31 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e	n/gelu_1:.aten.gelu.defaultJ....
39d20	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de	pkg.torch.onnx.class_hierarchy..
39d40	02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
39d60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
39d80	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
39da0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
39dc0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
39de0	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
39e00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
39e20	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
39e40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20	odeling_bert.BertIntermediate',.
39e60	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63	'transformers.activations.GELUAc
39e80	74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a	tivation',.'aten.gelu.default']J
39ea0	88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c	....pkg.torch.onnx.fx_node.n%gel
39ec0	75 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	u_1.:.[num_users=1].=.call_funct
39ee0	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64	ion[target=torch.ops.aten.gelu.d
39f00	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 30 2c 29 2c 20 6b 77	efault](args.=.(%linear_10,),.kw
39f20	61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
39f40	6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
39f60	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c	ncoder',.'bert.encoder.layer.1',
39f80	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69	.'bert.encoder.layer.1.intermedi
39fa0	61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65	ate',.'bert.encoder.layer.1.inte
39fc0	72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27	rmediate.intermediate_act_fn',.'
39fe0	67 65 6c 75 5f 31 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	gelu_1']J....pkg.torch.onnx.stac
3a000	6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
3a020	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
3a040	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
3a060	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
3a080	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
3a0a0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
3a0c0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
3a0e0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
3a100	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
3a120	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
3a140	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
3a160	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
3a180	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
3a1a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
3a1c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
3a1e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
3a200	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
3a220	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
3a240	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
3a260	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
3a280	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
3a2a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.588,.in.forward
3a2c0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69	.....layer_output.=.apply_chunki
3a2e0	6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	ng_to_forward(...File."/home/hsi
3a300	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
3a320	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
3a340	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
3a360	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.513,.in.for
3a380	77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e	ward.....hidden_states.=.self.in
3a3a0	74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29	termediate_act_fn(hidden_states)
3a3c0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
3a3e0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
3a400	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
3a420	72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20	rs/activations.py",.line.85,.in.
3a440	66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75	forward.....return.self.act(inpu
3a460	74 29 0a d3 12 0a 07 76 61 6c 5f 32 30 31 12 07 76 61 6c 5f 32 30 32 1a 0c 6e 6f 64 65 5f 45 72	t).....val_201..val_202..node_Er
3a480	66 5f 31 39 34 22 03 45 72 66 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61	f_194".ErfJ....namespace...:.tra
3a4a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
3a4c0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
3a4e0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
3a500	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
3a520	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
3a540	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
3a560	64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.1:.transformers.models
3a580	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
3a5a0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a	rt.encoder.layer.1.intermediate:
3a5c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
3a5e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e	ng_bert.BertIntermediate/bert.en
3a600	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72	coder.layer.1.intermediate.inter
3a620	6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74	mediate_act_fn:.transformers.act
3a640	69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 31 3a 20	ivations.GELUActivation/gelu_1:.
3a660	61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e	aten.gelu.defaultJ....pkg.torch.
3a680	6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f	onnx.class_hierarchy...['transfo
3a6a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3a6c0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72	BertForTokenClassification',.'tr
3a6e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3a700	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertModel',.'transformers.m
3a720	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
3a740	6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	oder',.'transformers.models.bert
3a760	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e	.modeling_bert.BertLayer',.'tran
3a780	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3a7a0	72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	rt.BertIntermediate',.'transform
3a7c0	65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c	ers.activations.GELUActivation',
3a7e0	20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f	.'aten.gelu.default']J....pkg.to
3a800	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 31 20 3a 20 5b 6e 75 6d	rch.onnx.fx_node.n%gelu_1.:.[num
3a820	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
3a840	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72	=torch.ops.aten.gelu.default](ar
3a860	67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 30 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	gs.=.(%linear_10,),.kwargs.=.{})
3a880	4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
3a8a0	9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
3a8c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.1',.'bert.enc
3a8e0	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72	oder.layer.1.intermediate',.'ber
3a900	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69	t.encoder.layer.1.intermediate.i
3a920	6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 31 27 5d 4a f7	ntermediate_act_fn',.'gelu_1']J.
3a940	08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08	...pkg.torch.onnx.stack_trace...
3a960	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
3a980	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
3a9a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
3a9c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
3a9e0	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
3aa00	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
3aa20	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
3aa40	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
3aa60	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
3aa80	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
3aaa0	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
3aac0	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
3aae0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
3ab00	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
3ab20	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
3ab40	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
3ab60	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
3ab80	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
3aba0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
3abc0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
3abe0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
3ac00	2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.588,.in.forward.....layer
3ac20	5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77	_output.=.apply_chunking_to_forw
3ac40	61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ard(...File."/home/hsiangnianian
3ac60	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
3ac80	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
3aca0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
3acc0	2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68	.py",.line.513,.in.forward.....h
3ace0	69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65	idden_states.=.self.intermediate
3ad00	5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	_act_fn(hidden_states)...File."/
3ad20	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
3ad40	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
3ad60	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74	te-packages/transformers/activat
3ad80	69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ions.py",.line.85,.in.forward...
3ada0	20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c	..return.self.act(input).....val
3adc0	5f 32 30 32 0a 07 63 6c 6f 6e 65 5f 31 12 07 76 61 6c 5f 32 30 34 1a 0c 6e 6f 64 65 5f 41 64 64	_202..clone_1..val_204..node_Add
3ade0	5f 31 39 36 22 03 41 64 64 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e	_196".AddJ....namespace...:.tran
3ae00	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3ae20	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
3ae40	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
3ae60	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
3ae80	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
3aea0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
3aec0	65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.1:.transformers.models.
3aee0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
3af00	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20	t.encoder.layer.1.intermediate:.
3af20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
3af40	67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63	g_bert.BertIntermediate/bert.enc
3af60	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d	oder.layer.1.intermediate.interm
3af80	65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69	ediate_act_fn:.transformers.acti
3afa0	76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 31 3a 20 61	vations.GELUActivation/gelu_1:.a
3afc0	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	ten.gelu.defaultJ....pkg.torch.o
3afe0	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
3b000	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
3b020	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
3b040	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
3b060	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
3b080	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
3b0a0	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
3b0c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
3b0e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
3b100	74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	t.BertIntermediate',.'transforme
3b120	72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20	rs.activations.GELUActivation',.
3b140	27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72	'aten.gelu.default']J....pkg.tor
3b160	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 31 20 3a 20 5b 6e 75 6d 5f	ch.onnx.fx_node.n%gelu_1.:.[num_
3b180	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
3b1a0	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	torch.ops.aten.gelu.default](arg
3b1c0	73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 30 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	s.=.(%linear_10,),.kwargs.=.{})J
3b1e0	bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c	....pkg.torch.onnx.name_scopes..
3b200	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
3b220	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.1',.'bert.enco
3b240	64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74	der.layer.1.intermediate',.'bert
3b260	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e	.encoder.layer.1.intermediate.in
3b280	74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 31 27 5d 4a f7 08	termediate_act_fn',.'gelu_1']J..
3b2a0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46	..pkg.torch.onnx.stack_trace...F
3b2c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
3b2e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
3b300	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
3b320	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
3b340	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
3b360	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
3b380	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
3b3a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
3b3c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
3b3e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
3b400	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
3b420	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
3b440	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
3b460	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
3b480	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
3b4a0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
3b4c0	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
3b4e0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
3b500	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
3b520	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
3b540	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
3b560	20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.588,.in.forward.....layer_
3b580	6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61	output.=.apply_chunking_to_forwa
3b5a0	72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rd(...File."/home/hsiangnianian/
3b5c0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
3b5e0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
3b600	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
3b620	70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69	py",.line.513,.in.forward.....hi
3b640	64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f	dden_states.=.self.intermediate_
3b660	61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68	act_fn(hidden_states)...File."/h
3b680	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
3b6a0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
3b6c0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69	e-packages/transformers/activati
3b6e0	6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	ons.py",.line.85,.in.forward....
3b700	20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f	.return.self.act(input).....val_
3b720	31 33 31 0a 07 76 61 6c 5f 32 30 34 12 07 76 61 6c 5f 32 30 36 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f	131..val_204..val_206..node_Mul_
3b740	31 39 38 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73	198".MulJ....namespace...:.trans
3b760	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
3b780	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
3b7a0	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
3b7c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
3b7e0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
3b800	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
3b820	72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.1:.transformers.models.b
3b840	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
3b860	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74	.encoder.layer.1.intermediate:.t
3b880	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
3b8a0	5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f	_bert.BertIntermediate/bert.enco
3b8c0	64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65	der.layer.1.intermediate.interme
3b8e0	64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76	diate_act_fn:.transformers.activ
3b900	61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 31 3a 20 61 74	ations.GELUActivation/gelu_1:.at
3b920	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	en.gelu.defaultJ....pkg.torch.on
3b940	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
3b960	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
3b980	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
3b9a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3b9c0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
3b9e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
3ba00	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
3ba20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
3ba40	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
3ba60	2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	.BertIntermediate',.'transformer
3ba80	73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27	s.activations.GELUActivation',.'
3baa0	61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.gelu.default']J....pkg.torc
3bac0	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 31 20 3a 20 5b 6e 75 6d 5f 75	h.onnx.fx_node.n%gelu_1.:.[num_u
3bae0	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
3bb00	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73	orch.ops.aten.gelu.default](args
3bb20	20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 30 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb	.=.(%linear_10,),.kwargs.=.{})J.
3bb40	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01	...pkg.torch.onnx.name_scopes...
3bb60	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
3bb80	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.1',.'bert.encod
3bba0	65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e	er.layer.1.intermediate',.'bert.
3bbc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74	encoder.layer.1.intermediate.int
3bbe0	65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 31 27 5d 4a f7 08 0a	ermediate_act_fn',.'gelu_1']J...
3bc00	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69	.pkg.torch.onnx.stack_trace...Fi
3bc20	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
3bc40	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
3bc60	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
3bc80	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
3bca0	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
3bcc0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
3bce0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
3bd00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
3bd20	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
3bd40	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
3bd60	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
3bd80	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
3bda0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
3bdc0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
3bde0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
3be00	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
3be20	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
3be40	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
3be60	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
3be80	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
3bea0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
3bec0	6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.588,.in.forward.....layer_o
3bee0	75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72	utput.=.apply_chunking_to_forwar
3bf00	64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	d(...File."/home/hsiangnianian/g
3bf20	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
3bf40	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
3bf60	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
3bf80	79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64	y",.line.513,.in.forward.....hid
3bfa0	64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61	den_states.=.self.intermediate_a
3bfc0	63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ct_fn(hidden_states)...File."/ho
3bfe0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
3c000	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
3c020	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f	-packages/transformers/activatio
3c040	6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	ns.py",.line.85,.in.forward.....
3c060	72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 09 6c 69 6e 65 61	return.self.act(input).....linea
3c080	72 5f 31 30 0a 07 76 61 6c 5f 32 30 36 12 06 67 65 6c 75 5f 31 1a 0b 6e 6f 64 65 5f 67 65 6c 75	r_10..val_206..gelu_1..node_gelu
3c0a0	5f 31 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66	_1".MulJ....namespace...:.transf
3c0c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
3c0e0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
3c100	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
3c120	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
3c140	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
3c160	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
3c180	2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.1:.transformers.models.be
3c1a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
3c1c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72	encoder.layer.1.intermediate:.tr
3c1e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3c200	62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64	bert.BertIntermediate/bert.encod
3c220	65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64	er.layer.1.intermediate.intermed
3c240	69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61	iate_act_fn:.transformers.activa
3c260	74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 31 3a 20 61 74 65	tions.GELUActivation/gelu_1:.ate
3c280	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	n.gelu.defaultJ....pkg.torch.onn
3c2a0	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
3c2c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
3c2e0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
3c300	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
3c320	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
3c340	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
3c360	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
3c380	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
3c3a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3c3c0	42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	BertIntermediate',.'transformers
3c3e0	2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61	.activations.GELUActivation',.'a
3c400	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ten.gelu.default']J....pkg.torch
3c420	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 31 20 3a 20 5b 6e 75 6d 5f 75 73	.onnx.fx_node.n%gelu_1.:.[num_us
3c440	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
3c460	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	rch.ops.aten.gelu.default](args.
3c480	3d 20 28 25 6c 69 6e 65 61 72 5f 31 30 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01	=.(%linear_10,),.kwargs.=.{})J..
3c4a0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b	..pkg.torch.onnx.name_scopes...[
3c4c0	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
3c4e0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.1',.'bert.encode
3c500	72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65	r.layer.1.intermediate',.'bert.e
3c520	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65	ncoder.layer.1.intermediate.inte
3c540	72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 31 27 5d 4a f7 08 0a 1a	rmediate_act_fn',.'gelu_1']J....
3c560	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
3c580	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
3c5a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
3c5c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
3c5e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
3c600	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
3c620	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
3c640	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
3c660	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
3c680	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
3c6a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
3c6c0	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
3c6e0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
3c700	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
3c720	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
3c740	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
3c760	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
3c780	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
3c7a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
3c7c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
3c7e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
3c800	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
3c820	69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.588,.in.forward.....layer_ou
3c840	74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64	tput.=.apply_chunking_to_forward
3c860	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
3c880	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
3c8a0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
3c8c0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
3c8e0	22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64	",.line.513,.in.forward.....hidd
3c900	65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	en_states.=.self.intermediate_ac
3c920	74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	t_fn(hidden_states)...File."/hom
3c940	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
3c960	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
3c980	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e	packages/transformers/activation
3c9a0	73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	s.py",.line.85,.in.forward.....r
3c9c0	65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a fd 12 0a 06 67 65 6c 75 5f 31	eturn.self.act(input).....gelu_1
3c9e0	0a 07 76 61 6c 5f 32 30 37 12 07 76 61 6c 5f 32 30 38 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f	..val_207..val_208..node_MatMul_
3ca00	32 30 30 22 06 4d 61 74 4d 75 6c 4a c0 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72	200".MatMulJ....namespace...:.tr
3ca20	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3ca40	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
3ca60	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
3ca80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertModel/bert.enco
3caa0	64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	der:.transformers.models.bert.mo
3cac0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63	deling_bert.BertEncoder/bert.enc
3cae0	6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	oder.layer.1:.transformers.model
3cb00	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62	s.bert.modeling_bert.BertLayer/b
3cb20	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e	ert.encoder.layer.1.output:.tran
3cb40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3cb60	72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.BertOutput/bert.encoder.layer
3cb80	2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	.1.output.dense:.torch.nn.module
3cba0	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 31 3a 20 61 74 65 6e 2e	s.linear.Linear/linear_11:.aten.
3cbc0	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	linear.defaultJ....pkg.torch.onn
3cbe0	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
3cc00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
3cc20	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
3cc40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
3cc60	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
3cc80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
3cca0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
3ccc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
3cce0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3cd00	42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c	BertOutput',.'torch.nn.modules.l
3cd20	69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61	inear.Linear',.'aten.linear.defa
3cd40	75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
3cd60	12 c7 01 25 6c 69 6e 65 61 72 5f 31 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	...%linear_11.:.[num_users=1].=.
3cd80	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
3cda0	74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c	ten.linear.default](args.=.(%gel
3cdc0	75 5f 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74	u_1,.%p_bert_encoder_layer_1_out
3cde0	70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	put_dense_weight,.%p_bert_encode
3ce00	72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77	r_layer_1_output_dense_bias),.kw
3ce20	61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
3ce40	6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
3ce60	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c	ncoder',.'bert.encoder.layer.1',
3ce80	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 27 2c 20	.'bert.encoder.layer.1.output',.
3cea0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e	'bert.encoder.layer.1.output.den
3cec0	73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 31 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	se',.'linear_11']J....pkg.torch.
3cee0	6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	onnx.stack_trace...File."/home/h
3cf00	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
3cf20	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
3cf40	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
3cf60	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20	odeling_bert.py",.line.1676,.in.
3cf80	66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28	forward.....outputs.=.self.bert(
3cfa0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
3cfc0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
3cfe0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
3d000	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
3d020	2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f	,.line.1000,.in.forward.....enco
3d040	64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69	der_outputs.=.self.encoder(...Fi
3d060	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
3d080	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
3d0a0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
3d0c0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
3d0e0	65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70	e.650,.in.forward.....layer_outp
3d100	75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.layer_module(...File."/hom
3d120	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
3d140	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
3d160	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
3d180	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69	t/modeling_bert.py",.line.588,.i
3d1a0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70	n.forward.....layer_output.=.app
3d1c0	6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22	ly_chunking_to_forward(...File."
3d1e0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
3d200	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
3d220	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
3d240	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32	/bert/modeling_bert.py",.line.52
3d260	35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20	5,.in.forward.....hidden_states.
3d280	3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69	=.self.dense(hidden_states)...Fi
3d2a0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
3d2c0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
3d2e0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65	10/site-packages/torch/nn/module
3d300	73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61	s/linear.py",.line.134,.in.forwa
3d320	72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65	rd.....return.F.linear(input,.se
3d340	6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 9b 13 0a 07 76 61 6c 5f 32 30	lf.weight,.self.bias).....val_20
3d360	38 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64	8.&bert.encoder.layer.1.output.d
3d380	65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 31 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61	ense.bias..linear_11..node_linea
3d3a0	72 5f 31 31 22 03 41 64 64 4a c0 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e	r_11".AddJ....namespace...:.tran
3d3c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3d3e0	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
3d400	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
3d420	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
3d440	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
3d460	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
3d480	65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.1:.transformers.models.
3d4a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
3d4c0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66	t.encoder.layer.1.output:.transf
3d4e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
3d500	2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	.BertOutput/bert.encoder.layer.1
3d520	2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	.output.dense:.torch.nn.modules.
3d540	6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 31 3a 20 61 74 65 6e 2e 6c 69	linear.Linear/linear_11:.aten.li
3d560	6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	near.defaultJ....pkg.torch.onnx.
3d580	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
3d5a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
3d5c0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
3d5e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3d600	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
3d620	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
3d640	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
3d660	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
3d680	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
3d6a0	72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	rtOutput',.'torch.nn.modules.lin
3d6c0	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
3d6e0	74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7	t']J....pkg.torch.onnx.fx_node..
3d700	01 25 6c 69 6e 65 61 72 5f 31 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	.%linear_11.:.[num_users=1].=.ca
3d720	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
3d740	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f	n.linear.default](args.=.(%gelu_
3d760	31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75	1,.%p_bert_encoder_layer_1_outpu
3d780	74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	t_dense_weight,.%p_bert_encoder_
3d7a0	6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72	layer_1_output_dense_bias),.kwar
3d7c0	67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
3d7e0	5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
3d800	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27	oder',.'bert.encoder.layer.1',.'
3d820	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 27 2c 20 27 62	bert.encoder.layer.1.output',.'b
3d840	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.1.output.dense
3d860	27 2c 20 27 6c 69 6e 65 61 72 5f 31 31 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	',.'linear_11']J....pkg.torch.on
3d880	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
3d8a0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
3d8c0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
3d8e0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
3d900	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
3d920	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
3d940	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
3d960	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
3d980	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
3d9a0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
3d9c0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
3d9e0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
3da00	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
3da20	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
3da40	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
3da60	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
3da80	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
3daa0	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
3dac0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
3dae0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
3db00	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
3db20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
3db40	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
3db60	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
3db80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
3dba0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
3dbc0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
3dbe0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c	ert/modeling_bert.py",.line.525,
3dc00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
3dc20	73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	self.dense(hidden_states)...File
3dc40	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
3dc60	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
3dc80	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
3dca0	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
3dcc0	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
3dce0	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a f2 0f 0a 09 6c 69 6e 65 61 72 5f 31	.weight,.self.bias).....linear_1
3dd00	31 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 12 07 61 64 64 5f 32 31 39 1a 0c 6e 6f 64 65 5f 61	1..layer_norm_3..add_219..node_a
3dd20	64 64 5f 32 31 39 22 03 41 64 64 4a f8 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ea 02 3a 20 74 72	dd_219".AddJ....namespace...:.tr
3dd40	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3dd60	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
3dd80	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
3dda0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertModel/bert.enco
3ddc0	64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	der:.transformers.models.bert.mo
3dde0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63	deling_bert.BertEncoder/bert.enc
3de00	6f 64 65 72 2e 6c 61 79 65 72 2e 31 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	oder.layer.1:.transformers.model
3de20	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62	s.bert.modeling_bert.BertLayer/b
3de40	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e	ert.encoder.layer.1.output:.tran
3de60	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
3de80	72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 61 64 64 5f 32 31 39 3a 20 61 74 65 6e 2e 61 64 64 2e	rt.BertOutput/add_219:.aten.add.
3dea0	54 65 6e 73 6f 72 4a ce 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	TensorJ....pkg.torch.onnx.class_
3dec0	68 69 65 72 61 72 63 68 79 12 ab 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
3dee0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
3df00	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
3df20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
3df40	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
3df60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
3df80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
3dfa0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
3dfc0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70	dels.bert.modeling_bert.BertOutp
3dfe0	75 74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e	ut',.'aten.add.Tensor']J....pkg.
3e000	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 32 31 39 20 3a 20 5b	torch.onnx.fx_node.y%add_219.:.[
3e020	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
3e040	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61	get=torch.ops.aten.add.Tensor](a
3e060	72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 35 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 29 2c	rgs.=.(%clone_5,.%layer_norm_3),
3e080	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 7c 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	.kwargs.=.{})J|..pkg.torch.onnx.
3e0a0	6e 61 6d 65 5f 73 63 6f 70 65 73 12 5e 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	name_scopes.^['',.'bert',.'bert.
3e0c0	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27	encoder',.'bert.encoder.layer.1'
3e0e0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 27 2c	,.'bert.encoder.layer.1.output',
3e100	20 27 61 64 64 5f 32 31 39 27 5d 4a da 07 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	.'add_219']J....pkg.torch.onnx.s
3e120	74 61 63 6b 5f 74 72 61 63 65 12 bb 07 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
3e140	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
3e160	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
3e180	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
3e1a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
3e1c0	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
3e1e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
3e200	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
3e220	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
3e240	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
3e260	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
3e280	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
3e2a0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
3e2c0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
3e2e0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
3e300	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
3e320	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
3e340	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
3e360	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
3e380	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
3e3a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
3e3c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.588,.in.forw
3e3e0	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75	ard.....layer_output.=.apply_chu
3e400	6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	nking_to_forward(...File."/home/
3e420	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
3e440	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
3e460	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
3e480	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20	modeling_bert.py",.line.527,.in.
3e4a0	66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66	forward.....hidden_states.=.self
3e4c0	2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74	.LayerNorm(hidden_states.+.input
3e4e0	5f 74 65 6e 73 6f 72 29 0a e6 14 0a 07 61 64 64 5f 32 31 39 0a 2c 62 65 72 74 2e 65 6e 63 6f 64	_tensor).....add_219.,bert.encod
3e500	65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67	er.layer.1.output.LayerNorm.weig
3e520	68 74 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e	ht.*bert.encoder.layer.1.output.
3e540	4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 1a 11 6e 6f	LayerNorm.bias..layer_norm_4..no
3e560	64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74	de_layer_norm_4".LayerNormalizat
3e580	69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f	ion*...stash_type.....*...epsilo
3e5a0	6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a	n....+...*...axis..............J
3e5c0	d5 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c7 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	....namespace...:.transformers.m
3e5e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
3e600	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66	TokenClassification/bert:.transf
3e620	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
3e640	2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f	.BertModel/bert.encoder:.transfo
3e660	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3e680	42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	BertEncoder/bert.encoder.layer.1
3e6a0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
3e6c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ing_bert.BertLayer/bert.encoder.
3e6e0	6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	layer.1.output:.transformers.mod
3e700	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75	els.bert.modeling_bert.BertOutpu
3e720	74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61	t/bert.encoder.layer.1.output.La
3e740	79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c	yerNorm:.torch.nn.modules.normal
3e760	69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 3a 20	ization.LayerNorm/layer_norm_4:.
3e780	61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e	aten.layer_norm.defaultJ....pkg.
3e7a0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74	torch.onnx.class_hierarchy...['t
3e7c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
3e7e0	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
3e800	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
3e820	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertModel',.'transfor
3e840	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
3e860	65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ertEncoder',.'transformers.model
3e880	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c	s.bert.modeling_bert.BertLayer',
3e8a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
3e8c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e	ing_bert.BertOutput',.'torch.nn.
3e8e0	6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27	modules.normalization.LayerNorm'
3e900	2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 80 02 0a	,.'aten.layer_norm.default']J...
3e920	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 e5 01 25 6c 61 79 65 72	.pkg.torch.onnx.fx_node...%layer
3e940	5f 6e 6f 72 6d 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 34 5d 20 3d 20 63 61 6c 6c 5f 66	_norm_4.:.[num_users=4].=.call_f
3e960	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61	unction[target=torch.ops.aten.la
3e980	79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 32	yer_norm.default](args.=.(%add_2
3e9a0	31 39 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	19,.[256],.%p_bert_encoder_layer
3e9c0	5f 31 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62	_1_output_layernorm_weight,.%p_b
3e9e0	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	ert_encoder_layer_1_output_layer
3ea00	6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	norm_bias,.1e-12),.kwargs.=.{})J
3ea20	ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c	....pkg.torch.onnx.name_scopes..
3ea40	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
3ea60	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.1',.'bert.enco
3ea80	64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	der.layer.1.output',.'bert.encod
3eaa0	65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c	er.layer.1.output.LayerNorm',.'l
3eac0	61 79 65 72 5f 6e 6f 72 6d 5f 34 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ayer_norm_4']J....pkg.torch.onnx
3eae0	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
3eb00	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
3eb20	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
3eb40	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
3eb60	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
3eb80	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
3eba0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
3ebc0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
3ebe0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
3ec00	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
3ec20	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
3ec40	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
3ec60	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
3ec80	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
3eca0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
3ecc0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
3ece0	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
3ed00	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
3ed20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
3ed40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
3ed60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
3ed80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.588,.in.fo
3eda0	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63	rward.....layer_output.=.apply_c
3edc0	68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	hunking_to_forward(...File."/hom
3ede0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
3ee00	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
3ee20	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
3ee40	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69	t/modeling_bert.py",.line.527,.i
3ee60	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65	n.forward.....hidden_states.=.se
3ee80	6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70	lf.LayerNorm(hidden_states.+.inp
3eea0	75 74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	ut_tensor)...File."/home/hsiangn
3eec0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
3eee0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
3ef00	74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70	torch/nn/modules/normalization.p
3ef20	79 22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74	y",.line.229,.in.forward.....ret
3ef40	75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a f3 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d	urn.F.layer_norm(.....layer_norm
3ef60	5f 34 0a 07 76 61 6c 5f 32 31 31 12 07 76 61 6c 5f 32 31 32 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75	_4..val_211..val_212..node_MatMu
3ef80	6c 5f 32 30 32 22 06 4d 61 74 4d 75 6c 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20	l_202".MatMulJ....namespace...:.
3efa0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
3efc0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
3efe0	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
3f000	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
3f020	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
3f040	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
3f060	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.2:.transformers.mod
3f080	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
3f0a0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.2.attention:
3f0c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
3f0e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
3f100	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73	er.layer.2.attention.self:.trans
3f120	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
3f140	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	t.BertSdpaSelfAttention/bert.enc
3f160	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72	oder.layer.2.attention.self.quer
3f180	79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	y:.torch.nn.modules.linear.Linea
3f1a0	72 2f 6c 69 6e 65 61 72 5f 31 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	r/linear_12:.aten.linear.default
3f1c0	4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
3f1e0	63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
3f200	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
3f220	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
3f240	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
3f260	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
3f280	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
3f2a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
3f2c0	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
3f2e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27	ert.modeling_bert.BertAttention'
3f300	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
3f320	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27	ling_bert.BertSdpaSelfAttention'
3f340	2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	,.'torch.nn.modules.linear.Linea
3f360	72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70	r',.'aten.linear.default']J....p
3f380	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f	kg.torch.onnx.fx_node...%linear_
3f3a0	31 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	12.:.[num_users=1].=.call_functi
3f3c0	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	on[target=torch.ops.aten.linear.
3f3e0	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 2c 20	default](args.=.(%layer_norm_4,.
3f400	25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f	%p_bert_encoder_layer_2_attentio
3f420	6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	n_self_query_weight,.%p_bert_enc
3f440	6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72	oder_layer_2_attention_self_quer
3f460	79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f	y_bias),.kwargs.=.{})J....pkg.to
3f480	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
3f4a0	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
3f4c0	72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.2',.'bert.encoder.layer.
3f4e0	32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	2.attention',.'bert.encoder.laye
3f500	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	r.2.attention.self',.'bert.encod
3f520	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27	er.layer.2.attention.self.query'
3f540	2c 20 27 6c 69 6e 65 61 72 5f 31 32 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.'linear_12']J....pkg.torch.onn
3f560	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
3f580	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
3f5a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
3f5c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
3f5e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
3f600	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
3f620	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
3f640	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
3f660	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
3f680	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
3f6a0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
3f6c0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
3f6e0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
3f700	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
3f720	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
3f740	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
3f760	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
3f780	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
3f7a0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
3f7c0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
3f7e0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
3f800	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
3f820	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
3f840	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
3f860	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
3f880	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
3f8a0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
3f8c0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
3f8e0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
3f900	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
3f920	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
3f940	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
3f960	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
3f980	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.363,.in.forward...
3f9a0	20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77	..self.query(hidden_states).view
3f9c0	28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61	(bsz,.-1,.self.num_attention_hea
3f9e0	64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72	ds,.self.attention_head_size).tr
3fa00	61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	anspose(1,.2)...File."/home/hsia
3fa20	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
3fa40	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
3fa60	65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20	es/torch/nn/modules/linear.py",.
3fa80	6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20	line.134,.in.forward.....return.
3faa0	46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c	F.linear(input,.self.weight,.sel
3fac0	66 2e 62 69 61 73 29 0a 93 17 0a 07 76 61 6c 5f 32 31 32 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65	f.bias).....val_212..bert.encode
3fae0	72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62	r.layer.2.attention.self.query.b
3fb00	69 61 73 12 09 6c 69 6e 65 61 72 5f 31 32 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 32 22 03	ias..linear_12..node_linear_12".
3fb20	41 64 64 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65	AddJ....namespace...:.transforme
3fb40	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
3fb60	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72	tForTokenClassification/bert:.tr
3fb80	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3fba0	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61	bert.BertModel/bert.encoder:.tra
3fbc0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
3fbe0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ert.BertEncoder/bert.encoder.lay
3fc00	65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er.2:.transformers.models.bert.m
3fc20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertLayer/bert.enco
3fc40	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	der.layer.2.attention:.transform
3fc60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
3fc80	72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	rtAttention/bert.encoder.layer.2
3fca0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.attention.self:.transformers.mo
3fcc0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
3fce0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	SelfAttention/bert.encoder.layer
3fd00	2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e	.2.attention.self.query:.torch.n
3fd20	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31	n.modules.linear.Linear/linear_1
3fd40	32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74	2:.aten.linear.defaultJ....pkg.t
3fd60	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
3fd80	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
3fda0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
3fdc0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
3fde0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
3fe00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
3fe20	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
3fe40	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
3fe60	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
3fe80	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
3fea0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
3fec0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e	BertSdpaSelfAttention',.'torch.n
3fee0	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e	n.modules.linear.Linear',.'aten.
3ff00	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f	linear.default']J....pkg.torch.o
3ff20	6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 31 32 20 3a 20 5b 6e 75 6d 5f	nnx.fx_node...%linear_12.:.[num_
3ff40	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
3ff60	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61	torch.ops.aten.linear.default](a
3ff80	72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65 6e	rgs.=.(%layer_norm_4,.%p_bert_en
3ffa0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65	coder_layer_2_attention_self_que
3ffc0	72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	ry_weight,.%p_bert_encoder_layer
3ffe0	5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b	_2_attention_self_query_bias),.k
40000	77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	wargs.=.{})J....pkg.torch.onnx.n
40020	61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	ame_scopes...['',.'bert',.'bert.
40040	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27	encoder',.'bert.encoder.layer.2'
40060	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.2.attentio
40080	6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74	n',.'bert.encoder.layer.2.attent
400a0	69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	ion.self',.'bert.encoder.layer.2
400c0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f	.attention.self.query',.'linear_
400e0	31 32 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	12']J....pkg.torch.onnx.stack_tr
40100	61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
40120	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
40140	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
40160	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
40180	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
401a0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
401c0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
401e0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
40200	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
40220	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
40240	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
40260	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
40280	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
402a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
402c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
402e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
40300	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
40320	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
40340	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
40360	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
40380	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
403a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
403c0	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
403e0	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
40400	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
40420	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
40440	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
40460	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
40480	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
404a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
404c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
404e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
40500	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
40520	69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65	ine.363,.in.forward.....self.que
40540	72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20	ry(hidden_states).view(bsz,.-1,.
40560	73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61	self.num_attention_heads,.self.a
40580	74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c	ttention_head_size).transpose(1,
405a0	20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	.2)...File."/home/hsiangnianian/
405c0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
405e0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e	python3.10/site-packages/torch/n
40600	6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20	n/modules/linear.py",.line.134,.
40620	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69	in.forward.....return.F.linear(i
40640	6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a cf 13	nput,.self.weight,.self.bias)...
40660	0a 09 6c 69 6e 65 61 72 5f 31 32 0a 06 76 61 6c 5f 36 38 12 06 76 69 65 77 5f 38 1a 0b 6e 6f 64	..linear_12..val_68..view_8..nod
40680	65 5f 76 69 65 77 5f 38 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01	e_view_8".Reshape*...allowzero..
406a0	a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65	...J....namespace...:.transforme
406c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
406e0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72	tForTokenClassification/bert:.tr
40700	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
40720	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61	bert.BertModel/bert.encoder:.tra
40740	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
40760	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ert.BertEncoder/bert.encoder.lay
40780	65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er.2:.transformers.models.bert.m
407a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertLayer/bert.enco
407c0	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	der.layer.2.attention:.transform
407e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
40800	72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	rtAttention/bert.encoder.layer.2
40820	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.attention.self:.transformers.mo
40840	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
40860	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 38 3a 20 61 74 65 6e 2e 76 69 65 77 2e	SelfAttention/view_8:.aten.view.
40880	64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
408a0	5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
408c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
408e0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
40900	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
40920	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
40940	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
40960	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
40980	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
409a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
409c0	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
409e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
40a00	65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a7 01	ention',.'aten.view.default']J..
40a20	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8c 01 25 76 69 65 77	..pkg.torch.onnx.fx_node...%view
40a40	5f 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_8.:.[num_users=1].=.call_functi
40a60	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65	on[target=torch.ops.aten.view.de
40a80	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 32 2c 20 5b 25 73 79 6d	fault](args.=.(%linear_12,.[%sym
40aa0	5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67	_size_int_45,.-1,.8,.32]),.kwarg
40ac0	73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
40ae0	73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
40b00	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62	der',.'bert.encoder.layer.2',.'b
40b20	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.2.attention',.
40b40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
40b60	73 65 6c 66 27 2c 20 27 76 69 65 77 5f 38 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	self',.'view_8']J....pkg.torch.o
40b80	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
40ba0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
40bc0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
40be0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
40c00	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
40c20	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
40c40	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
40c60	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
40c80	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
40ca0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
40cc0	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
40ce0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
40d00	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
40d20	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
40d40	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
40d60	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
40d80	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
40da0	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
40dc0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
40de0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
40e00	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
40e20	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
40e40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
40e60	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
40e80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
40ea0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
40ec0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
40ee0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
40f00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
40f20	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
40f40	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
40f60	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
40f80	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
40fa0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.363,.in.forward.
40fc0	20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69	....self.query(hidden_states).vi
40fe0	65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68	ew(bsz,.-1,.self.num_attention_h
41000	65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e	eads,.self.attention_head_size).
41020	74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a c6 13 0a 06 76 69 65 77 5f 38 12 0b 74 72 61 6e	transpose(1,.2).....view_8..tran
41040	73 70 6f 73 65 5f 38 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 38 22 09 54 72 61 6e 73	spose_8..node_transpose_8".Trans
41060	70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03 0a 09 6e 61 6d 65	pose*...perm@.@.@.@....J....name
41080	73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
410a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
410c0	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
410e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
41100	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
41120	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
41140	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.2:.transf
41160	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
41180	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	.BertLayer/bert.encoder.layer.2.
411a0	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
411c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
411e0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.2.attention.s
41200	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
41220	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
41240	6e 2f 74 72 61 6e 73 70 6f 73 65 5f 38 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e	n/transpose_8:.aten.transpose.in
41260	74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
41280	72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
412a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
412c0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
412e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
41300	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
41320	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
41340	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
41360	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
41380	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
413a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
413c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
413e0	27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 90 01 0a 16 70 6b 67	',.'aten.transpose.int']J....pkg
41400	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 76 25 74 72 61 6e 73 70 6f 73 65 5f	.torch.onnx.fx_node.v%transpose_
41420	38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	8.:.[num_users=1].=.call_functio
41440	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73	n[target=torch.ops.aten.transpos
41460	65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 38 2c 20 31 2c 20 32 29 2c 20 6b	e.int](args.=.(%view_8,.1,.2),.k
41480	77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	wargs.=.{})J....pkg.torch.onnx.n
414a0	61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	ame_scopes...['',.'bert',.'bert.
414c0	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27	encoder',.'bert.encoder.layer.2'
414e0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.2.attentio
41500	6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74	n',.'bert.encoder.layer.2.attent
41520	69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 38 27 5d 4a bc 09 0a 1a 70 6b	ion.self',.'transpose_8']J....pk
41540	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20	g.torch.onnx.stack_trace...File.
41560	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
41580	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
415a0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
415c0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
415e0	36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65	676,.in.forward.....outputs.=.se
41600	6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.bert(...File."/home/hsiangnia
41620	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
41640	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
41660	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
41680	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1000,.in.forward.
416a0	20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64	....encoder_outputs.=.self.encod
416c0	65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	er(...File."/home/hsiangnianian/
416e0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
41700	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
41720	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
41740	70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61	py",.line.650,.in.forward.....la
41760	79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69	yer_outputs.=.layer_module(...Fi
41780	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
417a0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
417c0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
417e0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
41800	65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e	e.558,.in.forward.....self_atten
41820	74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20	tion_outputs.=.self.attention(..
41840	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
41860	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
41880	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
418a0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
418c0	6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75	line.488,.in.forward.....self_ou
418e0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.self(...File."/home
41900	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
41920	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
41940	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
41960	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e	/modeling_bert.py",.line.363,.in
41980	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73	.forward.....self.query(hidden_s
419a0	74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74	tates).view(bsz,.-1,.self.num_at
419c0	74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65	tention_heads,.self.attention_he
419e0	61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 98 16 0a 0c 6c 61 79	ad_size).transpose(1,.2).....lay
41a00	65 72 5f 6e 6f 72 6d 5f 34 0a 07 76 61 6c 5f 32 31 39 12 07 76 61 6c 5f 32 32 30 1a 0f 6e 6f 64	er_norm_4..val_219..val_220..nod
41a20	65 5f 4d 61 74 4d 75 6c 5f 32 31 30 22 06 4d 61 74 4d 75 6c 4a ae 04 0a 09 6e 61 6d 65 73 70 61	e_MatMul_210".MatMulJ....namespa
41a40	63 65 12 a0 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
41a60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
41a80	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
41aa0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
41ac0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
41ae0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
41b00	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.2:.transform
41b20	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
41b40	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	rtLayer/bert.encoder.layer.2.att
41b60	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
41b80	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
41ba0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.2.attention.self
41bc0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
41be0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62	ing_bert.BertSdpaSelfAttention/b
41c00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.2.attention.se
41c20	6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e	lf.key:.torch.nn.modules.linear.
41c40	4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 33 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	Linear/linear_13:.aten.linear.de
41c60	66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
41c80	69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
41ca0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
41cc0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
41ce0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
41d00	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
41d20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
41d40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
41d60	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
41d80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
41da0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
41dc0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
41de0	74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e	tion',.'torch.nn.modules.linear.
41e00	4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a	Linear',.'aten.linear.default']J
41e20	f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69	....pkg.torch.onnx.fx_node...%li
41e40	6e 65 61 72 5f 31 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	near_13.:.[num_users=1].=.call_f
41e60	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69	unction[target=torch.ops.aten.li
41e80	6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72	near.default](args.=.(%layer_nor
41ea0	6d 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74	m_4,.%p_bert_encoder_layer_2_att
41ec0	65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f	ention_self_key_weight,.%p_bert_
41ee0	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b	encoder_layer_2_attention_self_k
41f00	65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b 67 2e 74	ey_bias),.kwargs.=.{})J....pkg.t
41f20	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
41f40	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
41f60	65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.2',.'bert.encoder.layer
41f80	2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.2.attention',.'bert.encoder.lay
41fa0	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	er.2.attention.self',.'bert.enco
41fc0	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c	der.layer.2.attention.self.key',
41fe0	20 27 6c 69 6e 65 61 72 5f 31 33 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.'linear_13']J....pkg.torch.onnx
42000	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
42020	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
42040	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
42060	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
42080	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
420a0	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
420c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
420e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
42100	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
42120	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
42140	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
42160	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
42180	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
421a0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
421c0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
421e0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
42200	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
42220	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
42240	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
42260	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
42280	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
422a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
422c0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
422e0	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
42300	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
42320	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
42340	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
42360	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
42380	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
423a0	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
423c0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
423e0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
42400	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
42420	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.387,.in.forward....
42440	20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	.self.key(current_states)...File
42460	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
42480	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
424a0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
424c0	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
424e0	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
42500	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a b6 16 0a 07 76 61 6c 5f 32 32 30 0a	.weight,.self.bias).....val_220.
42520	2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	,bert.encoder.layer.2.attention.
42540	73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 33 1a 0e 6e 6f 64 65 5f 6c	self.key.bias..linear_13..node_l
42560	69 6e 65 61 72 5f 31 33 22 03 41 64 64 4a ae 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a0 04 3a 20	inear_13".AddJ....namespace...:.
42580	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
425a0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
425c0	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
425e0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
42600	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
42620	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
42640	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.2:.transformers.mod
42660	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
42680	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.2.attention:
426a0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
426c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
426e0	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73	er.layer.2.attention.self:.trans
42700	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
42720	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	t.BertSdpaSelfAttention/bert.enc
42740	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a	oder.layer.2.attention.self.key:
42760	20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f	.torch.nn.modules.linear.Linear/
42780	6c 69 6e 65 61 72 5f 31 33 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7	linear_13:.aten.linear.defaultJ.
427a0	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
427c0	79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
427e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
42800	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
42820	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
42840	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
42860	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
42880	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
428a0	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
428c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
428e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
42900	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
42920	27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27	'torch.nn.modules.linear.Linear'
42940	2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67	,.'aten.linear.default']J....pkg
42960	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 31 33	.torch.onnx.fx_node...%linear_13
42980	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
429a0	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	[target=torch.ops.aten.linear.de
429c0	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 2c 20 25 70	fault](args.=.(%layer_norm_4,.%p
429e0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_2_attention_
42a00	73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	self_key_weight,.%p_bert_encoder
42a20	5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73	_layer_2_attention_self_key_bias
42a40	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
42a60	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
42a80	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
42aa0	72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	r.2',.'bert.encoder.layer.2.atte
42ac0	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	ntion',.'bert.encoder.layer.2.at
42ae0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	tention.self',.'bert.encoder.lay
42b00	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61	er.2.attention.self.key',.'linea
42b20	72 5f 31 33 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f	r_13']J....pkg.torch.onnx.stack_
42b40	74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	trace...File."/home/hsiangniania
42b60	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
42b80	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
42ba0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
42bc0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1676,.in.forward....
42be0	20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68	.outputs.=.self.bert(...File."/h
42c00	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
42c20	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
42c40	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
42c60	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30	ert/modeling_bert.py",.line.1000
42c80	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73	,.in.forward.....encoder_outputs
42ca0	20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.self.encoder(...File."/home/h
42cc0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
42ce0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
42d00	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
42d20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66	odeling_bert.py",.line.650,.in.f
42d40	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72	orward.....layer_outputs.=.layer
42d60	5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	_module(...File."/home/hsiangnia
42d80	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
42da0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
42dc0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
42de0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.558,.in.forward..
42e00	20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	...self_attention_outputs.=.self
42e20	2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.attention(...File."/home/hsiang
42e40	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
42e60	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
42e80	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
42ea0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.488,.in.forwar
42ec0	64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a	d.....self_outputs.=.self.self(.
42ee0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
42f00	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
42f20	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
42f40	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
42f60	20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b	.line.387,.in.forward.....self.k
42f80	65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ey(current_states)...File."/home
42fa0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
42fc0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
42fe0	61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e	ackages/torch/nn/modules/linear.
43000	70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65	py",.line.134,.in.forward.....re
43020	74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74	turn.F.linear(input,.self.weight
43040	2c 20 73 65 6c 66 2e 62 69 61 73 29 0a a6 13 0a 09 6c 69 6e 65 61 72 5f 31 33 0a 06 76 61 6c 5f	,.self.bias).....linear_13..val_
43060	36 38 12 06 76 69 65 77 5f 39 1a 0b 6e 6f 64 65 5f 76 69 65 77 5f 39 22 07 52 65 73 68 61 70 65	68..view_9..node_view_9".Reshape
43080	2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e1 03 0a 09 6e 61 6d 65 73 70 61 63 65	*...allowzero.....J....namespace
430a0	12 d3 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
430c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
430e0	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
43100	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
43120	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
43140	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
43160	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.2:.transformer
43180	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
431a0	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	Layer/bert.encoder.layer.2.atten
431c0	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
431e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
43200	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.2.attention.self:.
43220	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
43240	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65	g_bert.BertSdpaSelfAttention/vie
43260	77 5f 39 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74	w_9:.aten.view.defaultJ....pkg.t
43280	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
432a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
432c0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
432e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
43300	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
43320	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
43340	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
43360	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
43380	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
433a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
433c0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
433e0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69	BertSdpaSelfAttention',.'aten.vi
43400	65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ew.default']J....pkg.torch.onnx.
43420	66 78 5f 6e 6f 64 65 12 8c 01 25 76 69 65 77 5f 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	fx_node...%view_9.:.[num_users=1
43440	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
43460	70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c	ps.aten.view.default](args.=.(%l
43480	69 6e 65 61 72 5f 31 33 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c	inear_13,.[%sym_size_int_45,.-1,
434a0	20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a6 01 0a 1a 70 6b 67 2e 74	.8,.32]),.kwargs.=.{})J....pkg.t
434c0	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 87 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
434e0	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
43500	65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.2',.'bert.encoder.layer
43520	2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.2.attention',.'bert.encoder.lay
43540	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 39 27 5d 4a	er.2.attention.self',.'view_9']J
43560	93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4	....pkg.torch.onnx.stack_trace..
43580	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
435a0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
435c0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
435e0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
43600	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
43620	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
43640	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
43660	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
43680	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
436a0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
436c0	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
436e0	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
43700	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
43720	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
43740	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
43760	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
43780	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
437a0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
437c0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
437e0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
43800	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
43820	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
43840	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
43860	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
43880	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
438a0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
438c0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
438e0	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
43900	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
43920	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
43940	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
43960	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
43980	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33	s/bert/modeling_bert.py",.line.3
439a0	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31	88,.in.forward......view(bsz,.-1
439c0	2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66	,.self.num_attention_heads,.self
439e0	2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a eb 12 0a 06 76 69 65 77 5f 39	.attention_head_size).....view_9
43a00	12 0b 74 72 61 6e 73 70 6f 73 65 5f 39 1a 10 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 39 22	..transpose_9..node_transpose_9"
43a20	09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e7 03	.Transpose*...perm@.@.@.@....J..
43a40	0a 09 6e 61 6d 65 73 70 61 63 65 12 d9 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
43a60	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
43a80	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
43aa0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
43ac0	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
43ae0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
43b00	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20	rtEncoder/bert.encoder.layer.2:.
43b20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
43b40	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
43b60	79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.2.attention:.transformers.mo
43b80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
43ba0	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	ntion/bert.encoder.layer.2.atten
43bc0	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
43be0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
43c00	74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 39 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70	tention/transpose_9:.aten.transp
43c20	6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	ose.intJ....pkg.torch.onnx.class
43c40	5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
43c60	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
43c80	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
43ca0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
43cc0	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
43ce0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
43d00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
43d20	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
43d40	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
43d60	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
43d80	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
43da0	65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 90	ention',.'aten.transpose.int']J.
43dc0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 76 25 74 72 61 6e	...pkg.torch.onnx.fx_node.v%tran
43de0	73 70 6f 73 65 5f 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	spose_9.:.[num_users=1].=.call_f
43e00	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72	unction[target=torch.ops.aten.tr
43e20	61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 39 2c 20 31 2c	anspose.int](args.=.(%view_9,.1,
43e40	20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	.2),.kwargs.=.{})J....pkg.torch.
43e60	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
43e80	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
43ea0	79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	yer.2',.'bert.encoder.layer.2.at
43ec0	74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	tention',.'bert.encoder.layer.2.
43ee0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 39 27 5d 4a	attention.self',.'transpose_9']J
43f00	e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2	....pkg.torch.onnx.stack_trace..
43f20	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
43f40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
43f60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
43f80	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
43fa0	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
43fc0	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
43fe0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
44000	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
44020	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
44040	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
44060	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
44080	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
440a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
440c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
440e0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
44100	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
44120	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
44140	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
44160	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
44180	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
441a0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
441c0	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
441e0	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
44200	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
44220	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
44240	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
44260	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
44280	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
442a0	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
442c0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
442e0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
44300	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
44320	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33	s/bert/modeling_bert.py",.line.3
44340	38 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c	89,.in.forward......transpose(1,
44360	20 32 29 0a a2 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 0a 07 76 61 6c 5f 32 32 37 12 07 76	.2).....layer_norm_4..val_227..v
44380	61 6c 5f 32 32 38 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32 31 38 22 06 4d 61 74 4d 75 6c 4a	al_228..node_MatMul_218".MatMulJ
443a0	b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	....namespace...:.transformers.m
443c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
443e0	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66	TokenClassification/bert:.transf
44400	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
44420	2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f	.BertModel/bert.encoder:.transfo
44440	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
44460	42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	BertEncoder/bert.encoder.layer.2
44480	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
444a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ing_bert.BertLayer/bert.encoder.
444c0	6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	layer.2.attention:.transformers.
444e0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
44500	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	tention/bert.encoder.layer.2.att
44520	65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ention.self:.transformers.models
44540	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
44560	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61	Attention/bert.encoder.layer.2.a
44580	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f	ttention.self.value:.torch.nn.mo
445a0	64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 34 3a 20 61	dules.linear.Linear/linear_14:.a
445c0	74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	ten.linear.defaultJ....pkg.torch
445e0	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
44600	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
44620	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
44640	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
44660	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
44680	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
446a0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
446c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
446e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
44700	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
44720	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
44740	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f	SdpaSelfAttention',.'torch.nn.mo
44760	64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65	dules.linear.Linear',.'aten.line
44780	61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ar.default']J....pkg.torch.onnx.
447a0	66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 31 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	fx_node...%linear_14.:.[num_user
447c0	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
447e0	68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	h.ops.aten.linear.default](args.
44800	3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	=.(%layer_norm_4,.%p_bert_encode
44820	72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_2_attention_self_value_w
44840	65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61	eight,.%p_bert_encoder_layer_2_a
44860	74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67	ttention_self_value_bias),.kwarg
44880	73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
448a0	73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
448c0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62	der',.'bert.encoder.layer.2',.'b
448e0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.2.attention',.
44900	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
44920	73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	self',.'bert.encoder.layer.2.att
44940	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 34 27 5d	ention.self.value',.'linear_14']
44960	4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
44980	86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
449a0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
449c0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
449e0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
44a00	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
44a20	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
44a40	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
44a60	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
44a80	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
44aa0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
44ac0	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
44ae0	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
44b00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
44b20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
44b40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
44b60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
44b80	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
44ba0	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
44bc0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
44be0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
44c00	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
44c20	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
44c40	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
44c60	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
44c80	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
44ca0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
44cc0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
44ce0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.488,.in.forward.....
44d00	73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65	self_outputs.=.self.self(...File
44d20	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
44d40	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
44d60	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
44d80	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
44da0	33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63	392,.in.forward.....self.value(c
44dc0	75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	urrent_states)...File."/home/hsi
44de0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
44e00	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
44e20	67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c	ges/torch/nn/modules/linear.py",
44e40	20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e	.line.134,.in.forward.....return
44e60	20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65	.F.linear(input,.self.weight,.se
44e80	6c 66 2e 62 69 61 73 29 0a c2 16 0a 07 76 61 6c 5f 32 32 38 0a 2e 62 65 72 74 2e 65 6e 63 6f 64	lf.bias).....val_228..bert.encod
44ea0	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e	er.layer.2.attention.self.value.
44ec0	62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 34 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 34 22	bias..linear_14..node_linear_14"
44ee0	03 41 64 64 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d	.AddJ....namespace...:.transform
44f00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
44f20	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74	rtForTokenClassification/bert:.t
44f40	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
44f60	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72	_bert.BertModel/bert.encoder:.tr
44f80	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
44fa0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	bert.BertEncoder/bert.encoder.la
44fc0	79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer.2:.transformers.models.bert.
44fe0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertLayer/bert.enc
45000	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72	oder.layer.2.attention:.transfor
45020	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
45040	65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ertAttention/bert.encoder.layer.
45060	32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	2.attention.self:.transformers.m
45080	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
450a0	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	aSelfAttention/bert.encoder.laye
450c0	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e	r.2.attention.self.value:.torch.
450e0	6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f	nn.modules.linear.Linear/linear_
45100	31 34 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e	14:.aten.linear.defaultJ....pkg.
45120	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74	torch.onnx.class_hierarchy...['t
45140	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
45160	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
45180	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
451a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertModel',.'transfor
451c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
451e0	65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ertEncoder',.'transformers.model
45200	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c	s.bert.modeling_bert.BertLayer',
45220	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
45240	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ing_bert.BertAttention',.'transf
45260	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
45280	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e	.BertSdpaSelfAttention',.'torch.
452a0	6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e	nn.modules.linear.Linear',.'aten
452c0	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	.linear.default']J....pkg.torch.
452e0	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 31 34 20 3a 20 5b 6e 75 6d	onnx.fx_node...%linear_14.:.[num
45300	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
45320	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28	=torch.ops.aten.linear.default](
45340	61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65	args.=.(%layer_norm_4,.%p_bert_e
45360	6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61	ncoder_layer_2_attention_self_va
45380	6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	lue_weight,.%p_bert_encoder_laye
453a0	72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c 20	r_2_attention_self_value_bias),.
453c0	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
453e0	6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
45400	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	.encoder',.'bert.encoder.layer.2
45420	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.2.attenti
45440	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	on',.'bert.encoder.layer.2.atten
45460	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	tion.self',.'bert.encoder.layer.
45480	32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61 72	2.attention.self.value',.'linear
454a0	5f 31 34 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	_14']J....pkg.torch.onnx.stack_t
454c0	72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
454e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
45500	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
45520	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
45540	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
45560	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
45580	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
455a0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
455c0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
455e0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
45600	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
45620	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
45640	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
45660	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
45680	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
456a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
456c0	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
456e0	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
45700	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
45720	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
45740	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
45760	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
45780	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
457a0	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
457c0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
457e0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
45800	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
45820	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
45840	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
45860	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
45880	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
458a0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
458c0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
458e0	6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61	line.392,.in.forward.....self.va
45900	6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	lue(current_states)...File."/hom
45920	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
45940	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
45960	70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72	packages/torch/nn/modules/linear
45980	2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	.py",.line.134,.in.forward.....r
459a0	65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68	eturn.F.linear(input,.self.weigh
459c0	74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a ab 13 0a 09 6c 69 6e 65 61 72 5f 31 34 0a 06 76 61 6c	t,.self.bias).....linear_14..val
459e0	5f 36 38 12 07 76 69 65 77 5f 31 30 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 31 30 22 07 52 65 73 68	_68..view_10..node_view_10".Resh
45a00	61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70	ape*...allowzero.....J....namesp
45a20	61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
45a40	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
45a60	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
45a80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
45aa0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
45ac0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
45ae0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.2:.transfor
45b00	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
45b20	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	ertLayer/bert.encoder.layer.2.at
45b40	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
45b60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
45b80	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.2.attention.sel
45ba0	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
45bc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
45be0	76 69 65 77 5f 31 30 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70	view_10:.aten.view.defaultJ....p
45c00	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02	kg.torch.onnx.class_hierarchy...
45c20	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
45c40	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
45c60	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
45c80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
45ca0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
45cc0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
45ce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
45d00	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
45d20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
45d40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
45d60	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
45d80	6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f	n.view.default']J....pkg.torch.o
45da0	6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 31 30 20 3a 20 5b 6e 75 6d 5f 75 73	nnx.fx_node...%view_10.:.[num_us
45dc0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
45de0	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	rch.ops.aten.view.default](args.
45e00	3d 20 28 25 6c 69 6e 65 61 72 5f 31 34 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35	=.(%linear_14,.[%sym_size_int_45
45e20	2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a	,.-1,.8,.32]),.kwargs.=.{})J....
45e40	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
45e60	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
45e80	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.2',.'bert.encoder.
45ea0	6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.2.attention',.'bert.encode
45ec0	72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77	r.layer.2.attention.self',.'view
45ee0	5f 31 30 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	_10']J....pkg.torch.onnx.stack_t
45f00	72 61 63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
45f20	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
45f40	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
45f60	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
45f80	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
45fa0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
45fc0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
45fe0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
46000	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
46020	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
46040	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
46060	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
46080	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
460a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
460c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
460e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
46100	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
46120	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
46140	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
46160	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
46180	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
461a0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
461c0	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
461e0	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
46200	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
46220	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
46240	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
46260	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
46280	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
462a0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
462c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
462e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
46300	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
46320	6c 69 6e 65 20 33 39 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62	line.393,.in.forward......view(b
46340	73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73	sz,.-1,.self.num_attention_heads
46360	2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a f2 12 0a 07	,.self.attention_head_size).....
46380	76 69 65 77 5f 31 30 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31 30 1a 11 6e 6f 64 65 5f 74 72 61 6e	view_10..transpose_10..node_tran
463a0	73 70 6f 73 65 5f 31 30 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40	spose_10".Transpose*...perm@.@.@
463c0	01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f	.@....J....namespace...:.transfo
463e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
46400	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
46420	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
46440	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
46460	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
46480	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
464a0	6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.2:.transformers.models.ber
464c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
464e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.2.attention:.transf
46500	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
46520	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
46540	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.2.attention.self:.transformers
46560	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
46580	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 30 3a 20 61	dpaSelfAttention/transpose_10:.a
465a0	74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e	ten.transpose.intJ....pkg.torch.
465c0	6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f	onnx.class_hierarchy...['transfo
465e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
46600	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72	BertForTokenClassification',.'tr
46620	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
46640	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertModel',.'transformers.m
46660	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
46680	6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	oder',.'transformers.models.bert
466a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e	.modeling_bert.BertLayer',.'tran
466c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
466e0	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.BertAttention',.'transformers
46700	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
46720	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f	dpaSelfAttention',.'aten.transpo
46740	73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	se.int']J....pkg.torch.onnx.fx_n
46760	6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	ode.x%transpose_10.:.[num_users=
46780	31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	1].=.call_function[target=torch.
467a0	6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28	ops.aten.transpose.int](args.=.(
467c0	25 76 69 65 77 5f 31 30 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01	%view_10,.1,.2),.kwargs.=.{})J..
467e0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b	..pkg.torch.onnx.name_scopes...[
46800	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
46820	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.2',.'bert.encode
46840	72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	r.layer.2.attention',.'bert.enco
46860	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72	der.layer.2.attention.self',.'tr
46880	61 6e 73 70 6f 73 65 5f 31 30 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	anspose_10']J....pkg.torch.onnx.
468a0	73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
468c0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
468e0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
46900	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
46920	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
46940	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
46960	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
46980	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
469a0	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
469c0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
469e0	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
46a00	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
46a20	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
46a40	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
46a60	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
46a80	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
46aa0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
46ac0	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
46ae0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
46b00	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
46b20	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
46b40	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.558,.in.for
46b60	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20	ward.....self_attention_outputs.
46b80	3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	=.self.attention(...File."/home/
46ba0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
46bc0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
46be0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
46c00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20	modeling_bert.py",.line.488,.in.
46c20	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	forward.....self_outputs.=.self.
46c40	73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	self(...File."/home/hsiangniania
46c60	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
46c80	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
46ca0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
46cc0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.394,.in.forward.....
46ce0	2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a b9 14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 39	.transpose(1,.2).....transpose_9
46d00	12 07 76 61 6c 5f 32 34 34 1a 0e 6e 6f 64 65 5f 53 68 61 70 65 5f 32 33 34 22 05 53 68 61 70 65	..val_244..node_Shape_234".Shape
46d20	2a 0c 0a 05 73 74 61 72 74 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a	*...start.....J....namespace...:
46d40	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
46d60	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
46d80	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
46da0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
46dc0	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
46de0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
46e00	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.2:.transformers.mo
46e20	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
46e40	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e	r/bert.encoder.layer.2.attention
46e60	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
46e80	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	ing_bert.BertAttention/bert.enco
46ea0	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e	der.layer.2.attention.self:.tran
46ec0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
46ee0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f	rt.BertSdpaSelfAttention/scaled_
46f00	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63	dot_product_attention_2:.aten.sc
46f20	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
46f40	6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
46f60	61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
46f80	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
46fa0	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
46fc0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
46fe0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
47000	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
47020	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
47040	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
47060	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
47080	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
470a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
470c0	6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n',.'aten.scaled_dot_product_att
470e0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f	ention.default']J....pkg.torch.o
47100	6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	nnx.fx_node...%scaled_dot_produc
47120	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	t_attention_2.:.[num_users=1].=.
47140	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
47160	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
47180	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20	.default](args.=.(%transpose_8,.
471a0	25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61	%transpose_9,.%transpose_10,.%ma
471c0	73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67	sked_fill),.kwargs.=.{})J....pkg
471e0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27	.torch.onnx.name_scopes...['',.'
47200	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
47220	6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.2',.'bert.encoder.lay
47240	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	er.2.attention',.'bert.encoder.l
47260	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f	ayer.2.attention.self',.'scaled_
47280	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b	dot_product_attention_2']J....pk
472a0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20	g.torch.onnx.stack_trace...File.
472c0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
472e0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
47300	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
47320	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
47340	36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65	676,.in.forward.....outputs.=.se
47360	6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.bert(...File."/home/hsiangnia
47380	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
473a0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
473c0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
473e0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1000,.in.forward.
47400	20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64	....encoder_outputs.=.self.encod
47420	65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	er(...File."/home/hsiangnianian/
47440	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
47460	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
47480	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
474a0	70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61	py",.line.650,.in.forward.....la
474c0	79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69	yer_outputs.=.layer_module(...Fi
474e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
47500	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
47520	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
47540	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
47560	65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e	e.558,.in.forward.....self_atten
47580	74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20	tion_outputs.=.self.attention(..
475a0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
475c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
475e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
47600	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
47620	6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75	line.488,.in.forward.....self_ou
47640	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.self(...File."/home
47660	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
47680	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
476a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
476c0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e	/modeling_bert.py",.line.413,.in
476e0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68	.forward.....attn_output.=.torch
47700	2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	.nn.functional.scaled_dot_produc
47720	74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b7 14 0a 07 76 61 6c 5f 32 34 34 0a 06 76 61 6c 5f 36 35	t_attention(.....val_244..val_65
47740	0a 06 76 61 6c 5f 39 35 12 07 76 61 6c 5f 32 34 36 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 32 33	..val_95..val_246..node_Slice_23
47760	36 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73	6".SliceJ....namespace...:.trans
47780	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
477a0	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
477c0	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
477e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
47800	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
47820	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
47840	72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.2:.transformers.models.b
47860	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
47880	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e	.encoder.layer.2.attention:.tran
478a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
478c0	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	rt.BertAttention/bert.encoder.la
478e0	79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65	yer.2.attention.self:.transforme
47900	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
47920	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	tSdpaSelfAttention/scaled_dot_pr
47940	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	oduct_attention_2:.aten.scaled_d
47960	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a	ot_product_attention.defaultJ...
47980	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
479a0	88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
479c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
479e0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
47a00	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
47a20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
47a40	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
47a60	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
47a80	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
47aa0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
47ac0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
47ae0	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61	_bert.BertSdpaSelfAttention',.'a
47b00	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
47b20	2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
47b40	5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	_node...%scaled_dot_product_atte
47b60	6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	ntion_2.:.[num_users=1].=.call_f
47b80	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63	unction[target=torch.ops.aten.sc
47ba0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
47bc0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73	lt](args.=.(%transpose_8,.%trans
47be0	70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66	pose_9,.%transpose_10,.%masked_f
47c00	69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ill),.kwargs.=.{})J....pkg.torch
47c20	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
47c40	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
47c60	61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61	ayer.2',.'bert.encoder.layer.2.a
47c80	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	ttention',.'bert.encoder.layer.2
47ca0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	.attention.self',.'scaled_dot_pr
47cc0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63	oduct_attention_2']J....pkg.torc
47ce0	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
47d00	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
47d20	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
47d40	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
47d60	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
47d80	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
47da0	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
47dc0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
47de0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
47e00	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
47e20	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
47e40	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
47e60	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
47e80	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
47ea0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
47ec0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
47ee0	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
47f00	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
47f20	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
47f40	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
47f60	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
47f80	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
47fa0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
47fc0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
47fe0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
48000	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
48020	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
48040	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
48060	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
48080	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
480a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
480c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
480e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
48100	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.413,.in.forwa
48120	72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75	rd.....attn_output.=.torch.nn.fu
48140	6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	nctional.scaled_dot_product_atte
48160	6e 74 69 6f 6e 28 0a b7 14 0a 07 76 61 6c 5f 32 34 34 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f	ntion(.....val_244..val_98..val_
48180	36 35 12 07 76 61 6c 5f 32 34 37 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 32 33 37 22 05 53 6c 69	65..val_247..node_Slice_237".Sli
481a0	63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ceJ....namespace...:.transformer
481c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
481e0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
48200	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
48220	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
48240	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
48260	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
48280	72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.2:.transformers.models.bert.mo
482a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
482c0	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.2.attention:.transforme
482e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
48300	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	tAttention/bert.encoder.layer.2.
48320	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
48340	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
48360	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	elfAttention/scaled_dot_product_
48380	61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention_2:.aten.scaled_dot_pro
483a0	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74	duct_attention.defaultJ....pkg.t
483c0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
483e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
48400	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
48420	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
48440	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
48460	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
48480	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
484a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
484c0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
484e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
48500	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
48520	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63	BertSdpaSelfAttention',.'aten.sc
48540	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
48560	6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
48580	ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	..%scaled_dot_product_attention_
485a0	32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	2.:.[num_users=1].=.call_functio
485c0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
485e0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
48600	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39	gs.=.(%transpose_8,.%transpose_9
48620	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20	,.%transpose_10,.%masked_fill),.
48640	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
48660	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
48680	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	.encoder',.'bert.encoder.layer.2
486a0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.2.attenti
486c0	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	on',.'bert.encoder.layer.2.atten
486e0	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion.self',.'scaled_dot_product_
48700	61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	attention_2']J....pkg.torch.onnx
48720	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
48740	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
48760	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
48780	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
487a0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
487c0	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
487e0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
48800	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
48820	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
48840	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
48860	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
48880	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
488a0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
488c0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
488e0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
48900	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
48920	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
48940	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
48960	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
48980	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
489a0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
489c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
489e0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
48a00	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
48a20	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
48a40	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
48a60	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
48a80	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
48aa0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
48ac0	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
48ae0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
48b00	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
48b20	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
48b40	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.413,.in.forward....
48b60	20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e	.attn_output.=.torch.nn.function
48b80	61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28	al.scaled_dot_product_attention(
48ba0	0a b8 14 0a 07 76 61 6c 5f 32 34 34 0a 07 76 61 6c 5f 31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76	.....val_244..val_100..val_98..v
48bc0	61 6c 5f 32 34 39 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 32 33 39 22 05 53 6c 69 63 65 4a 91 04	al_249..node_Slice_239".SliceJ..
48be0	0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
48c00	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
48c20	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
48c40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
48c60	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
48c80	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
48ca0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20	rtEncoder/bert.encoder.layer.2:.
48cc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
48ce0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
48d00	79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.2.attention:.transformers.mo
48d20	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
48d40	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	ntion/bert.encoder.layer.2.atten
48d60	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
48d80	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
48da0	74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	tention/scaled_dot_product_atten
48dc0	74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion_2:.aten.scaled_dot_product_
48de0	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e	attention.defaultJ....pkg.torch.
48e00	6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f	onnx.class_hierarchy...['transfo
48e20	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
48e40	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72	BertForTokenClassification',.'tr
48e60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
48e80	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertModel',.'transformers.m
48ea0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
48ec0	6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	oder',.'transformers.models.bert
48ee0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e	.modeling_bert.BertLayer',.'tran
48f00	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
48f20	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.BertAttention',.'transformers
48f40	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
48f60	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f	dpaSelfAttention',.'aten.scaled_
48f80	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a	dot_product_attention.default']J
48fa0	e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63	....pkg.torch.onnx.fx_node...%sc
48fc0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b	aled_dot_product_attention_2.:.[
48fe0	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
49000	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	get=torch.ops.aten.scaled_dot_pr
49020	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	oduct_attention.default](args.=.
49040	28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72	(%transpose_8,.%transpose_9,.%tr
49060	61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	anspose_10,.%masked_fill),.kwarg
49080	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
490a0	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
490c0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62	der',.'bert.encoder.layer.2',.'b
490e0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.2.attention',.
49100	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
49120	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
49140	74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_2']J....pkg.torch.onnx.stac
49160	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
49180	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
491a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
491c0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
491e0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
49200	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
49220	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
49240	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
49260	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
49280	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
492a0	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
492c0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
492e0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
49300	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
49320	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
49340	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
49360	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
49380	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
493a0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
493c0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
493e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
49400	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
49420	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
49440	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
49460	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
49480	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
494a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
494c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
494e0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
49500	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
49520	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
49540	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
49560	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
49580	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
495a0	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
495c0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c7 14 0a 06	aled_dot_product_attention(.....
495e0	76 61 6c 5f 36 35 0a 07 76 61 6c 5f 32 34 37 0a 07 76 61 6c 5f 32 34 36 12 07 76 61 6c 5f 32 35	val_65..val_247..val_246..val_25
49600	31 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 32 34 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78	1..node_Concat_241".Concat*...ax
49620	69 73 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66	is.....J....namespace...:.transf
49640	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
49660	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
49680	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
496a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
496c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
496e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
49700	2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.2:.transformers.models.be
49720	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
49740	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.2.attention:.trans
49760	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
49780	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
497a0	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.2.attention.self:.transformer
497c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
497e0	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
49800	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	duct_attention_2:.aten.scaled_do
49820	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e	t_product_attention.defaultJ....
49840	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88	pkg.torch.onnx.class_hierarchy..
49860	03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
49880	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
498a0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
498c0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
498e0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
49900	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
49920	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
49940	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
49960	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72	odeling_bert.BertAttention',.'tr
49980	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
499a0	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74	bert.BertSdpaSelfAttention',.'at
499c0	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
499e0	64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
49a00	6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	node...%scaled_dot_product_atten
49a20	74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	tion_2.:.[num_users=1].=.call_fu
49a40	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61	nction[target=torch.ops.aten.sca
49a60	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
49a80	74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70	t](args.=.(%transpose_8,.%transp
49aa0	6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69	ose_9,.%transpose_10,.%masked_fi
49ac0	6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	ll),.kwargs.=.{})J....pkg.torch.
49ae0	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
49b00	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
49b20	79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	yer.2',.'bert.encoder.layer.2.at
49b40	74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	tention',.'bert.encoder.layer.2.
49b60	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention.self',.'scaled_dot_pro
49b80	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68	duct_attention_2']J....pkg.torch
49ba0	2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	.onnx.stack_trace...File."/home/
49bc0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
49be0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
49c00	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
49c20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e	modeling_bert.py",.line.1676,.in
49c40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74	.forward.....outputs.=.self.bert
49c60	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
49c80	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
49ca0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
49cc0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
49ce0	22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63	",.line.1000,.in.forward.....enc
49d00	6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46	oder_outputs.=.self.encoder(...F
49d20	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
49d40	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
49d60	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
49d80	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
49da0	6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74	ne.650,.in.forward.....layer_out
49dc0	70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.layer_module(...File."/ho
49de0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
49e00	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
49e20	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
49e40	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20	rt/modeling_bert.py",.line.558,.
49e60	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	in.forward.....self_attention_ou
49e80	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22	tputs.=.self.attention(...File."
49ea0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
49ec0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
49ee0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
49f00	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38	/bert/modeling_bert.py",.line.48
49f20	38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d	8,.in.forward.....self_outputs.=
49f40	20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.self(...File."/home/hsiang
49f60	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
49f80	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
49fa0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
49fc0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.413,.in.forwar
49fe0	64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e	d.....attn_output.=.torch.nn.fun
4a000	63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	ctional.scaled_dot_product_atten
4a020	74 69 6f 6e 28 0a ca 14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 39 0a 07 76 61 6c 5f 32 35 31 12 07	tion(.....transpose_9..val_251..
4a040	76 61 6c 5f 32 35 32 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 32 34 32 22 07 52 65 73 68 61	val_252..node_Reshape_242".Resha
4a060	70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61	pe*...allowzero.....J....namespa
4a080	63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
4a0a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
4a0c0	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
4a0e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
4a100	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
4a120	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
4a140	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.2:.transform
4a160	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
4a180	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	rtLayer/bert.encoder.layer.2.att
4a1a0	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
4a1c0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
4a1e0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.2.attention.self
4a200	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
4a220	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73	ing_bert.BertSdpaSelfAttention/s
4a240	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61	caled_dot_product_attention_2:.a
4a260	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
4a280	2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	.defaultJ....pkg.torch.onnx.clas
4a2a0	73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
4a2c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
4a2e0	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
4a300	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4a320	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
4a340	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
4a360	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
4a380	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
4a3a0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
4a3c0	74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tention',.'transformers.models.b
4a3e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
4a400	74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention',.'aten.scaled_dot_produ
4a420	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74	ct_attention.default']J....pkg.t
4a440	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f	orch.onnx.fx_node...%scaled_dot_
4a460	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73	product_attention_2.:.[num_users
4a480	3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68	=1].=.call_function[target=torch
4a4a0	2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	.ops.aten.scaled_dot_product_att
4a4c0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f	ention.default](args.=.(%transpo
4a4e0	73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31	se_8,.%transpose_9,.%transpose_1
4a500	30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be	0,.%masked_fill),.kwargs.=.{})J.
4a520	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01	...pkg.torch.onnx.name_scopes...
4a540	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
4a560	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.2',.'bert.encod
4a580	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.2.attention',.'bert.enc
4a5a0	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73	oder.layer.2.attention.self',.'s
4a5c0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a	caled_dot_product_attention_2']J
4a5e0	90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1	....pkg.torch.onnx.stack_trace..
4a600	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
4a620	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
4a640	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
4a660	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
4a680	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
4a6a0	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
4a6c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
4a6e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
4a700	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
4a720	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
4a740	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
4a760	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
4a780	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
4a7a0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
4a7c0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
4a7e0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
4a800	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
4a820	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
4a840	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
4a860	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
4a880	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
4a8a0	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
4a8c0	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
4a8e0	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
4a900	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
4a920	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
4a940	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
4a960	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
4a980	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
4a9a0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
4a9c0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
4a9e0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
4aa00	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
4aa20	31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d	13,.in.forward.....attn_output.=
4aa40	20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	.torch.nn.functional.scaled_dot_
4aa60	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c0 14 0a 07 76 61 6c 5f 32 35 32 12 07	product_attention(.....val_252..
4aa80	76 61 6c 5f 32 35 33 1a 12 6e 6f 64 65 5f 54 72 61 6e 73 70 6f 73 65 5f 32 34 33 22 09 54 72 61	val_253..node_Transpose_243".Tra
4aaa0	6e 73 70 6f 73 65 2a 0f 0a 04 70 65 72 6d 40 00 40 02 40 01 a0 01 07 4a 91 04 0a 09 6e 61 6d 65	nspose*...perm@.@.@....J....name
4aac0	73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
4aae0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
4ab00	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
4ab20	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
4ab40	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
4ab60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
4ab80	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.2:.transf
4aba0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
4abc0	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	.BertLayer/bert.encoder.layer.2.
4abe0	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
4ac00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
4ac20	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.2.attention.s
4ac40	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
4ac60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
4ac80	6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32	n/scaled_dot_product_attention_2
4aca0	3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	:.aten.scaled_dot_product_attent
4acc0	69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	ion.defaultJ....pkg.torch.onnx.c
4ace0	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
4ad00	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
4ad20	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
4ad40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4ad60	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
4ad80	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
4ada0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
4adc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
4ade0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
4ae00	74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tAttention',.'transformers.model
4ae20	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
4ae40	66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	fAttention',.'aten.scaled_dot_pr
4ae60	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b	oduct_attention.default']J....pk
4ae80	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64	g.torch.onnx.fx_node...%scaled_d
4aea0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73	ot_product_attention_2.:.[num_us
4aec0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
4aee0	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	rch.ops.aten.scaled_dot_product_
4af00	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e	attention.default](args.=.(%tran
4af20	73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73	spose_8,.%transpose_9,.%transpos
4af40	65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	e_10,.%masked_fill),.kwargs.=.{}
4af60	29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
4af80	12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
4afa0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.2',.'bert.en
4afc0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.2.attention',.'bert.
4afe0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.2.attention.self',
4b000	20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32	.'scaled_dot_product_attention_2
4b020	27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
4b040	65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
4b060	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
4b080	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
4b0a0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
4b0c0	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
4b0e0	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
4b100	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
4b120	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
4b140	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
4b160	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
4b180	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
4b1a0	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
4b1c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
4b1e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
4b200	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
4b220	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
4b240	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
4b260	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
4b280	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
4b2a0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
4b2c0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
4b2e0	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
4b300	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
4b320	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
4b340	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
4b360	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
4b380	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
4b3a0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.488,.in.forward...
4b3c0	20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69	..self_outputs.=.self.self(...Fi
4b3e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
4b400	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
4b420	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
4b440	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
4b460	65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75	e.413,.in.forward.....attn_outpu
4b480	74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64	t.=.torch.nn.functional.scaled_d
4b4a0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c8 14 0a 07 76 61 6c 5f 32 34	ot_product_attention(.....val_24
4b4c0	39 0a 07 76 61 6c 5f 32 34 36 0a 07 76 61 6c 5f 32 34 37 12 07 76 61 6c 5f 32 35 34 1a 0f 6e 6f	9..val_246..val_247..val_254..no
4b4e0	64 65 5f 43 6f 6e 63 61 74 5f 32 34 34 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0	de_Concat_244".Concat*...axis...
4b500	01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	..J....namespace...:.transformer
4b520	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4b540	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
4b560	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
4b580	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
4b5a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
4b5c0	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
4b5e0	72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.2:.transformers.models.bert.mo
4b600	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
4b620	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.2.attention:.transforme
4b640	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
4b660	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	tAttention/bert.encoder.layer.2.
4b680	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
4b6a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
4b6c0	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	elfAttention/scaled_dot_product_
4b6e0	61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention_2:.aten.scaled_dot_pro
4b700	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74	duct_attention.defaultJ....pkg.t
4b720	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
4b740	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
4b760	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
4b780	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
4b7a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
4b7c0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
4b7e0	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
4b800	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
4b820	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
4b840	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
4b860	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
4b880	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63	BertSdpaSelfAttention',.'aten.sc
4b8a0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
4b8c0	6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
4b8e0	ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	..%scaled_dot_product_attention_
4b900	32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	2.:.[num_users=1].=.call_functio
4b920	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
4b940	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
4b960	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39	gs.=.(%transpose_8,.%transpose_9
4b980	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20	,.%transpose_10,.%masked_fill),.
4b9a0	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
4b9c0	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
4b9e0	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	.encoder',.'bert.encoder.layer.2
4ba00	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.2.attenti
4ba20	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	on',.'bert.encoder.layer.2.atten
4ba40	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion.self',.'scaled_dot_product_
4ba60	61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	attention_2']J....pkg.torch.onnx
4ba80	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
4baa0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
4bac0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
4bae0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
4bb00	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
4bb20	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
4bb40	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
4bb60	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
4bb80	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
4bba0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
4bbc0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
4bbe0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
4bc00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
4bc20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
4bc40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
4bc60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
4bc80	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
4bca0	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
4bcc0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
4bce0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
4bd00	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
4bd20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
4bd40	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
4bd60	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
4bd80	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
4bda0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
4bdc0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
4bde0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
4be00	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
4be20	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
4be40	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
4be60	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
4be80	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
4bea0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.413,.in.forward....
4bec0	20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e	.attn_output.=.torch.nn.function
4bee0	61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28	al.scaled_dot_product_attention(
4bf00	0a c6 14 0a 07 76 61 6c 5f 32 35 33 0a 07 76 61 6c 5f 32 35 34 12 07 76 61 6c 5f 32 35 35 1a 10	.....val_253..val_254..val_255..
4bf20	6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 32 34 35 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c	node_Reshape_245".Reshape*...all
4bf40	6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72	owzero.....J....namespace...:.tr
4bf60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
4bf80	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
4bfa0	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
4bfc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertModel/bert.enco
4bfe0	64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	der:.transformers.models.bert.mo
4c000	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63	deling_bert.BertEncoder/bert.enc
4c020	6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	oder.layer.2:.transformers.model
4c040	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62	s.bert.modeling_bert.BertLayer/b
4c060	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74	ert.encoder.layer.2.attention:.t
4c080	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
4c0a0	5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	_bert.BertAttention/bert.encoder
4c0c0	2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f	.layer.2.attention.self:.transfo
4c0e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
4c100	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74	BertSdpaSelfAttention/scaled_dot
4c120	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65	_product_attention_2:.aten.scale
4c140	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a	d_dot_product_attention.defaultJ
4c160	ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
4c180	68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
4c1a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
4c1c0	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
4c1e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
4c200	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
4c220	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
4c240	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
4c260	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
4c280	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
4c2a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
4c2c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
4c2e0	20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	.'aten.scaled_dot_product_attent
4c300	69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ion.default']J....pkg.torch.onnx
4c320	2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.fx_node...%scaled_dot_product_a
4c340	74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	ttention_2.:.[num_users=1].=.cal
4c360	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
4c380	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
4c3a0	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72	fault](args.=.(%transpose_8,.%tr
4c3c0	61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65	anspose_9,.%transpose_10,.%maske
4c3e0	64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f	d_fill),.kwargs.=.{})J....pkg.to
4c400	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
4c420	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
4c440	72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.2',.'bert.encoder.layer.
4c460	32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	2.attention',.'bert.encoder.laye
4c480	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74	r.2.attention.self',.'scaled_dot
4c4a0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74	_product_attention_2']J....pkg.t
4c4c0	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
4c4e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
4c500	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
4c520	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
4c540	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
4c560	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
4c580	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
4c5a0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
4c5c0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
4c5e0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
4c600	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
4c620	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
4c640	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
4c660	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
4c680	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
4c6a0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
4c6c0	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
4c6e0	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
4c700	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
4c720	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
4c740	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
4c760	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
4c780	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
4c7a0	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
4c7c0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
4c7e0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
4c800	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
4c820	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
4c840	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
4c860	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
4c880	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
4c8a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
4c8c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
4c8e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.413,.in.fo
4c900	72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e	rward.....attn_output.=.torch.nn
4c920	2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.functional.scaled_dot_product_a
4c940	74 74 65 6e 74 69 6f 6e 28 0a b0 14 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 38 0a 07 76 61 6c 5f 31	ttention(.....transpose_8..val_1
4c960	30 38 12 07 76 61 6c 5f 32 35 37 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 32 34 37 22 03 4d 75 6c 4a 91	08..val_257..node_Mul_247".MulJ.
4c980	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
4c9a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
4c9c0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
4c9e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
4ca00	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
4ca20	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4ca40	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a	ertEncoder/bert.encoder.layer.2:
4ca60	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
4ca80	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
4caa0	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.2.attention:.transformers.m
4cac0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
4cae0	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	ention/bert.encoder.layer.2.atte
4cb00	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
4cb20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
4cb40	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
4cb60	6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_2:.aten.scaled_dot_product
4cb80	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
4cba0	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
4cbc0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
4cbe0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
4cc00	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
4cc20	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
4cc40	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
4cc60	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
4cc80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
4cca0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
4ccc0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
4cce0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4cd00	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
4cd20	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
4cd40	4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73	J....pkg.torch.onnx.fx_node...%s
4cd60	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20	caled_dot_product_attention_2.:.
4cd80	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
4cda0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
4cdc0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
4cde0	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74	.(%transpose_8,.%transpose_9,.%t
4ce00	72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72	ranspose_10,.%masked_fill),.kwar
4ce20	67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
4ce40	5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
4ce60	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27	oder',.'bert.encoder.layer.2',.'
4ce80	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c	bert.encoder.layer.2.attention',
4cea0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.2.attention
4cec0	2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	.self',.'scaled_dot_product_atte
4cee0	6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	ntion_2']J....pkg.torch.onnx.sta
4cf00	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
4cf20	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
4cf40	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
4cf60	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
4cf80	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
4cfa0	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
4cfc0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
4cfe0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
4d000	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
4d020	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
4d040	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
4d060	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
4d080	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
4d0a0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
4d0c0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
4d0e0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
4d100	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
4d120	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
4d140	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
4d160	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
4d180	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
4d1a0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
4d1c0	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
4d1e0	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
4d200	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
4d220	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
4d240	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
4d260	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
4d280	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
4d2a0	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
4d2c0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
4d2e0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
4d300	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
4d320	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
4d340	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
4d360	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ac 14 0a	caled_dot_product_attention(....
4d380	07 76 61 6c 5f 32 35 35 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 32 35 39 1a 0c 6e 6f 64 65	.val_255..val_108..val_259..node
4d3a0	5f 4d 75 6c 5f 32 34 39 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20	_Mul_249".MulJ....namespace...:.
4d3c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
4d3e0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
4d400	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
4d420	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
4d440	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
4d460	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
4d480	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.2:.transformers.mod
4d4a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
4d4c0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.2.attention:
4d4e0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
4d500	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
4d520	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73	er.layer.2.attention.self:.trans
4d540	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
4d560	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64	t.BertSdpaSelfAttention/scaled_d
4d580	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61	ot_product_attention_2:.aten.sca
4d5a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
4d5c0	74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
4d5e0	72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
4d600	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
4d620	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
4d640	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
4d660	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
4d680	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
4d6a0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4d6c0	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
4d6e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
4d700	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
4d720	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
4d740	27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	',.'aten.scaled_dot_product_atte
4d760	6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	ntion.default']J....pkg.torch.on
4d780	6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	nx.fx_node...%scaled_dot_product
4d7a0	5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	_attention_2.:.[num_users=1].=.c
4d7c0	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
4d7e0	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
4d800	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25	default](args.=.(%transpose_8,.%
4d820	74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73	transpose_9,.%transpose_10,.%mas
4d840	6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e	ked_fill),.kwargs.=.{})J....pkg.
4d860	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62	torch.onnx.name_scopes...['',.'b
4d880	65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert',.'bert.encoder',.'bert.enco
4d8a0	64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	der.layer.2',.'bert.encoder.laye
4d8c0	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	r.2.attention',.'bert.encoder.la
4d8e0	79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64	yer.2.attention.self',.'scaled_d
4d900	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67	ot_product_attention_2']J....pkg
4d920	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
4d940	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
4d960	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
4d980	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
4d9a0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
4d9c0	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
4d9e0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
4da00	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
4da20	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
4da40	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
4da60	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
4da80	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
4daa0	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
4dac0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
4dae0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
4db00	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
4db20	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
4db40	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
4db60	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
4db80	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
4dba0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
4dbc0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
4dbe0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
4dc00	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
4dc20	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
4dc40	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
4dc60	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
4dc80	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
4dca0	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
4dcc0	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
4dce0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
4dd00	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
4dd20	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
4dd40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20	modeling_bert.py",.line.413,.in.
4dd60	66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e	forward.....attn_output.=.torch.
4dd80	6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	nn.functional.scaled_dot_product
4dda0	5f 61 74 74 65 6e 74 69 6f 6e 28 0a b2 14 0a 07 76 61 6c 5f 32 35 37 0a 07 76 61 6c 5f 32 35 39	_attention(.....val_257..val_259
4ddc0	12 07 76 61 6c 5f 32 36 30 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32 35 30 22 06 4d 61 74 4d	..val_260..node_MatMul_250".MatM
4dde0	75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ulJ....namespace...:.transformer
4de00	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4de20	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
4de40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
4de60	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
4de80	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
4dea0	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
4dec0	72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.2:.transformers.models.bert.mo
4dee0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
4df00	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.2.attention:.transforme
4df20	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
4df40	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	tAttention/bert.encoder.layer.2.
4df60	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
4df80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
4dfa0	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	elfAttention/scaled_dot_product_
4dfc0	61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention_2:.aten.scaled_dot_pro
4dfe0	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74	duct_attention.defaultJ....pkg.t
4e000	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
4e020	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
4e040	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
4e060	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
4e080	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
4e0a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
4e0c0	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
4e0e0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
4e100	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
4e120	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
4e140	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
4e160	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63	BertSdpaSelfAttention',.'aten.sc
4e180	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
4e1a0	6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
4e1c0	ca 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	..%scaled_dot_product_attention_
4e1e0	32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	2.:.[num_users=1].=.call_functio
4e200	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
4e220	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
4e240	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39	gs.=.(%transpose_8,.%transpose_9
4e260	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20	,.%transpose_10,.%masked_fill),.
4e280	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
4e2a0	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
4e2c0	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	.encoder',.'bert.encoder.layer.2
4e2e0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.2.attenti
4e300	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	on',.'bert.encoder.layer.2.atten
4e320	74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion.self',.'scaled_dot_product_
4e340	61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	attention_2']J....pkg.torch.onnx
4e360	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
4e380	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
4e3a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
4e3c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
4e3e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
4e400	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
4e420	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
4e440	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
4e460	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
4e480	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
4e4a0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
4e4c0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
4e4e0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
4e500	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
4e520	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
4e540	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
4e560	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
4e580	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
4e5a0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
4e5c0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
4e5e0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
4e600	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
4e620	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
4e640	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
4e660	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
4e680	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
4e6a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
4e6c0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
4e6e0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
4e700	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
4e720	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
4e740	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
4e760	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
4e780	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.413,.in.forward....
4e7a0	20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e	.attn_output.=.torch.nn.function
4e7c0	61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28	al.scaled_dot_product_attention(
4e7e0	0a b0 14 0a 07 76 61 6c 5f 32 36 30 0a 0b 6d 61 73 6b 65 64 5f 66 69 6c 6c 12 07 76 61 6c 5f 32	.....val_260..masked_fill..val_2
4e800	36 31 1a 0c 6e 6f 64 65 5f 41 64 64 5f 32 35 31 22 03 41 64 64 4a 91 04 0a 09 6e 61 6d 65 73 70	61..node_Add_251".AddJ....namesp
4e820	61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
4e840	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
4e860	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
4e880	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
4e8a0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
4e8c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
4e8e0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.2:.transfor
4e900	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4e920	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	ertLayer/bert.encoder.layer.2.at
4e940	74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	tention:.transformers.models.ber
4e960	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65	t.modeling_bert.BertAttention/be
4e980	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.2.attention.sel
4e9a0	66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	f:.transformers.models.bert.mode
4e9c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f	ling_bert.BertSdpaSelfAttention/
4e9e0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 3a 20	scaled_dot_product_attention_2:.
4ea00	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
4ea20	6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	n.defaultJ....pkg.torch.onnx.cla
4ea40	73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
4ea60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
4ea80	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
4eaa0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
4eac0	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
4eae0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
4eb00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
4eb20	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
4eb40	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
4eb60	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
4eb80	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
4eba0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ttention',.'aten.scaled_dot_prod
4ebc0	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16 70 6b 67 2e	uct_attention.default']J....pkg.
4ebe0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64 5f 64 6f 74	torch.onnx.fx_node...%scaled_dot
4ec00	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	_product_attention_2.:.[num_user
4ec20	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
4ec40	68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	h.ops.aten.scaled_dot_product_at
4ec60	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70	tention.default](args.=.(%transp
4ec80	6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	ose_8,.%transpose_9,.%transpose_
4eca0	31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	10,.%masked_fill),.kwargs.=.{})J
4ecc0	be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f	....pkg.torch.onnx.name_scopes..
4ece0	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
4ed00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.2',.'bert.enco
4ed20	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e	der.layer.2.attention',.'bert.en
4ed40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27	coder.layer.2.attention.self',.'
4ed60	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 27 5d	scaled_dot_product_attention_2']
4ed80	4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
4eda0	f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
4edc0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
4ede0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
4ee00	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
4ee20	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
4ee40	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
4ee60	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
4ee80	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
4eea0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
4eec0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
4eee0	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
4ef00	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
4ef20	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
4ef40	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
4ef60	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
4ef80	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
4efa0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
4efc0	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
4efe0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
4f000	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
4f020	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
4f040	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
4f060	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
4f080	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
4f0a0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
4f0c0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
4f0e0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
4f100	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.488,.in.forward.....
4f120	73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65	self_outputs.=.self.self(...File
4f140	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
4f160	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
4f180	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
4f1a0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
4f1c0	34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20	413,.in.forward.....attn_output.
4f1e0	3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74	=.torch.nn.functional.scaled_dot
4f200	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c1 14 0a 07 76 61 6c 5f 32 36 31 12	_product_attention(.....val_261.
4f220	07 76 61 6c 5f 32 36 32 1a 10 6e 6f 64 65 5f 53 6f 66 74 6d 61 78 5f 32 35 32 22 07 53 6f 66 74	.val_262..node_Softmax_252".Soft
4f240	6d 61 78 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a 91 04 0a 09 6e 61	max*...axis..............J....na
4f260	6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
4f280	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
4f2a0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
4f2c0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
4f2e0	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
4f300	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
4f320	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e	coder/bert.encoder.layer.2:.tran
4f340	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
4f360	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
4f380	32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	2.attention:.transformers.models
4f3a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
4f3c0	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.2.attention
4f3e0	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
4f400	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
4f420	69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ion/scaled_dot_product_attention
4f440	5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	_2:.aten.scaled_dot_product_atte
4f460	6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ntion.defaultJ....pkg.torch.onnx
4f480	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
4f4a0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
4f4c0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
4f4e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
4f500	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
4f520	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
4f540	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
4f560	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
4f580	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4f5a0	65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ertAttention',.'transformers.mod
4f5c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
4f5e0	65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	elfAttention',.'aten.scaled_dot_
4f600	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e5 01 0a 16	product_attention.default']J....
4f620	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73 63 61 6c 65 64	pkg.torch.onnx.fx_node...%scaled
4f640	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20 5b 6e 75 6d 5f	_dot_product_attention_2.:.[num_
4f660	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
4f680	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	torch.ops.aten.scaled_dot_produc
4f6a0	74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72	t_attention.default](args.=.(%tr
4f6c0	61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74 72 61 6e 73 70	anspose_8,.%transpose_9,.%transp
4f6e0	6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20	ose_10,.%masked_fill),.kwargs.=.
4f700	7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
4f720	65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
4f740	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.2',.'bert.
4f760	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.2.attention',.'ber
4f780	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.2.attention.self
4f7a0	27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	',.'scaled_dot_product_attention
4f7c0	5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	_2']J....pkg.torch.onnx.stack_tr
4f7e0	61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
4f800	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
4f820	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
4f840	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
4f860	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
4f880	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
4f8a0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
4f8c0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
4f8e0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
4f900	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
4f920	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
4f940	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
4f960	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
4f980	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
4f9a0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
4f9c0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
4f9e0	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
4fa00	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
4fa20	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
4fa40	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
4fa60	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
4fa80	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
4faa0	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
4fac0	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
4fae0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
4fb00	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
4fb20	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
4fb40	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
4fb60	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
4fb80	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
4fba0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
4fbc0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
4fbe0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
4fc00	69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74	ine.413,.in.forward.....attn_out
4fc20	70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64	put.=.torch.nn.functional.scaled
4fc40	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a e2 14 0a 07 76 61 6c 5f	_dot_product_attention(.....val_
4fc60	32 36 32 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 30 12 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	262..transpose_10..scaled_dot_pr
4fc80	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 1a 23 6e 6f 64 65 5f 73 63 61 6c 65 64 5f 64	oduct_attention_2.#node_scaled_d
4fca0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 22 06 4d 61 74 4d 75 6c 4a 91	ot_product_attention_2".MatMulJ.
4fcc0	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
4fce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
4fd00	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
4fd20	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
4fd40	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
4fd60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
4fd80	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a	ertEncoder/bert.encoder.layer.2:
4fda0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
4fdc0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
4fde0	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.2.attention:.transformers.m
4fe00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
4fe20	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	ention/bert.encoder.layer.2.atte
4fe40	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
4fe60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
4fe80	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
4fea0	6e 74 69 6f 6e 5f 32 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_2:.aten.scaled_dot_product
4fec0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
4fee0	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
4ff00	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
4ff20	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
4ff40	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
4ff60	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
4ff80	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
4ffa0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
4ffc0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
4ffe0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
50000	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
50020	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
50040	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
50060	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
50080	4a e5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 ca 01 25 73	J....pkg.torch.onnx.fx_node...%s
500a0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 20 3a 20	caled_dot_product_attention_2.:.
500c0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
500e0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
50100	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
50120	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 38 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 39 2c 20 25 74	.(%transpose_8,.%transpose_9,.%t
50140	72 61 6e 73 70 6f 73 65 5f 31 30 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72	ranspose_10,.%masked_fill),.kwar
50160	67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
50180	5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
501a0	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27	oder',.'bert.encoder.layer.2',.'
501c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c	bert.encoder.layer.2.attention',
501e0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.2.attention
50200	2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	.self',.'scaled_dot_product_atte
50220	6e 74 69 6f 6e 5f 32 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	ntion_2']J....pkg.torch.onnx.sta
50240	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
50260	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
50280	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
502a0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
502c0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
502e0	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
50300	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
50320	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
50340	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
50360	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
50380	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
503a0	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
503c0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
503e0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
50400	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
50420	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
50440	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
50460	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
50480	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
504a0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
504c0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
504e0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
50500	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
50520	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
50540	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
50560	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
50580	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
505a0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
505c0	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
505e0	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
50600	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
50620	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
50640	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
50660	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
50680	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
506a0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba 13 0a	caled_dot_product_attention(....
506c0	1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 12	.scaled_dot_product_attention_2.
506e0	0c 74 72 61 6e 73 70 6f 73 65 5f 31 31 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 31	.transpose_11..node_transpose_11
50700	22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8	".Transpose*...perm@.@.@.@....J.
50720	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
50740	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
50760	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
50780	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
507a0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
507c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
507e0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a	ertEncoder/bert.encoder.layer.2:
50800	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
50820	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
50840	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.2.attention:.transformers.m
50860	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
50880	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	ention/bert.encoder.layer.2.atte
508a0	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
508c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
508e0	74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 31 3a 20 61 74 65 6e 2e 74 72 61 6e	ttention/transpose_11:.aten.tran
50900	73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	spose.intJ....pkg.torch.onnx.cla
50920	73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
50940	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
50960	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
50980	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
509a0	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
509c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
509e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
50a00	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
50a20	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
50a40	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
50a60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
50a80	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d	ttention',.'aten.transpose.int']
50aa0	4a aa 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8f 01 25 74	J....pkg.torch.onnx.fx_node...%t
50ac0	72 61 6e 73 70 6f 73 65 5f 31 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	ranspose_11.:.[num_users=1].=.ca
50ae0	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
50b00	6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 73 63 61 6c 65 64	n.transpose.int](args.=.(%scaled
50b20	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 2c 20 31 2c 20 32 29 2c	_dot_product_attention_2,.1,.2),
50b40	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
50b60	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
50b80	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
50ba0	32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74	2',.'bert.encoder.layer.2.attent
50bc0	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	ion',.'bert.encoder.layer.2.atte
50be0	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 31 27 5d 4a fa 08 0a	ntion.self',.'transpose_11']J...
50c00	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 db 08 46 69	.pkg.torch.onnx.stack_trace...Fi
50c20	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
50c40	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
50c60	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
50c80	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
50ca0	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
50cc0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
50ce0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
50d00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
50d20	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
50d40	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
50d60	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
50d80	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
50da0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
50dc0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
50de0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
50e00	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
50e20	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
50e40	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
50e60	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
50e80	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
50ea0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
50ec0	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
50ee0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
50f00	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
50f20	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
50f40	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
50f60	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
50f80	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
50fa0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
50fc0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
50fe0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
51000	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
51020	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 32 2c	ert/modeling_bert.py",.line.422,
51040	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74	.in.forward.....attn_output.=.at
51060	74 6e 5f 6f 75 74 70 75 74 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a bf 13 0a 0c 74 72	tn_output.transpose(1,.2).....tr
51080	61 6e 73 70 6f 73 65 5f 31 31 0a 07 76 61 6c 5f 31 31 39 12 07 76 69 65 77 5f 31 31 1a 0c 6e 6f	anspose_11..val_119..view_11..no
510a0	64 65 5f 76 69 65 77 5f 31 31 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f	de_view_11".Reshape*...allowzero
510c0	18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72	.....J....namespace...:.transfor
510e0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
51100	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20	ertForTokenClassification/bert:.
51120	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
51140	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74	g_bert.BertModel/bert.encoder:.t
51160	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
51180	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	_bert.BertEncoder/bert.encoder.l
511a0	61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer.2:.transformers.models.bert
511c0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertLayer/bert.en
511e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f	coder.layer.2.attention:.transfo
51200	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
51220	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	BertAttention/bert.encoder.layer
51240	2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	.2.attention.self:.transformers.
51260	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
51280	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 31 3a 20 61 74 65 6e 2e 76 69	paSelfAttention/view_11:.aten.vi
512a0	65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	ew.defaultJ....pkg.torch.onnx.cl
512c0	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
512e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
51300	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
51320	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
51340	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
51360	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
51380	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
513a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
513c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
513e0	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
51400	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
51420	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d	Attention',.'aten.view.default']
51440	4a b7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9c 01 25 76	J....pkg.torch.onnx.fx_node...%v
51460	69 65 77 5f 31 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	iew_11.:.[num_users=1].=.call_fu
51480	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65	nction[target=torch.ops.aten.vie
514a0	77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 31	w.default](args.=.(%transpose_11
514c0	2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69	,.[%sym_size_int_45,.%sym_size_i
514e0	6e 74 5f 34 38 2c 20 32 35 36 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70	nt_48,.256]),.kwargs.=.{})J....p
51500	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
51520	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
51540	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.2',.'bert.encoder.l
51560	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayer.2.attention',.'bert.encoder
51580	2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f	.layer.2.attention.self',.'view_
515a0	31 31 27 5d 4a 94 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	11']J....pkg.torch.onnx.stack_tr
515c0	61 63 65 12 f5 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
515e0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
51600	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
51620	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
51640	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
51660	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
51680	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
516a0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
516c0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
516e0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
51700	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
51720	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
51740	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
51760	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
51780	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
517a0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
517c0	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
517e0	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
51800	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
51820	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
51840	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
51860	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
51880	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
518a0	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
518c0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
518e0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
51900	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
51920	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
51940	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
51960	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
51980	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
519a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
519c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
519e0	69 6e 65 20 34 32 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74	ine.423,.in.forward.....attn_out
51a00	70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 72 65 73 68 61 70 65 28 62 73 7a 2c 20 74	put.=.attn_output.reshape(bsz,.t
51a20	67 74 5f 6c 65 6e 2c 20 73 65 6c 66 2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65 29 0a ca 16 0a 07	gt_len,.self.all_head_size).....
51a40	76 69 65 77 5f 31 31 0a 07 76 61 6c 5f 32 36 38 12 07 76 61 6c 5f 32 36 39 1a 0f 6e 6f 64 65 5f	view_11..val_268..val_269..node_
51a60	4d 61 74 4d 75 6c 5f 32 35 39 22 06 4d 61 74 4d 75 6c 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65	MatMul_259".MatMulJ....namespace
51a80	12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
51aa0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
51ac0	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
51ae0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
51b00	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
51b20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
51b40	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.2:.transformer
51b60	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
51b80	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	Layer/bert.encoder.layer.2.atten
51ba0	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
51bc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
51be0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.2.attention.output
51c00	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
51c20	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63	ing_bert.BertSelfOutput/bert.enc
51c40	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65	oder.layer.2.attention.output.de
51c60	6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	nse:.torch.nn.modules.linear.Lin
51c80	65 61 72 2f 6c 69 6e 65 61 72 5f 31 35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	ear/linear_15:.aten.linear.defau
51ca0	6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
51cc0	61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
51ce0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
51d00	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
51d20	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
51d40	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
51d60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
51d80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
51da0	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
51dc0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
51de0	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
51e00	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f	deling_bert.BertSelfOutput',.'to
51e20	72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27	rch.nn.modules.linear.Linear',.'
51e40	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f	aten.linear.default']J....pkg.to
51e60	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 31 35 20 3a 20	rch.onnx.fx_node...%linear_15.:.
51e80	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
51ea0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	rget=torch.ops.aten.linear.defau
51ec0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e	lt](args.=.(%view_11,.%p_bert_en
51ee0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64	coder_layer_2_attention_output_d
51f00	65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79	ense_weight,.%p_bert_encoder_lay
51f20	65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73	er_2_attention_output_dense_bias
51f40	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a da 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
51f60	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 bb 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
51f80	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
51fa0	72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	r.2',.'bert.encoder.layer.2.atte
51fc0	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	ntion',.'bert.encoder.layer.2.at
51fe0	74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	tention.output',.'bert.encoder.l
52000	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20	ayer.2.attention.output.dense',.
52020	27 6c 69 6e 65 61 72 5f 31 35 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	'linear_15']J....pkg.torch.onnx.
52040	73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
52060	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
52080	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
520a0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
520c0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
520e0	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
52100	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
52120	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
52140	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
52160	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
52180	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
521a0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
521c0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
521e0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
52200	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
52220	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
52240	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
52260	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
52280	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
522a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
522c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
522e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.558,.in.for
52300	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20	ward.....self_attention_outputs.
52320	3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	=.self.attention(...File."/home/
52340	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
52360	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
52380	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
523a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20	modeling_bert.py",.line.497,.in.
523c0	66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73	forward.....attention_output.=.s
523e0	65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64	elf.output(self_outputs[0],.hidd
52400	65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	en_states)...File."/home/hsiangn
52420	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
52440	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
52460	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
52480	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.436,.in.forward
524a0	0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28	.....hidden_states.=.self.dense(
524c0	68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	hidden_states)...File."/home/hsi
524e0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
52500	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
52520	67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c	ges/torch/nn/modules/linear.py",
52540	20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e	.line.134,.in.forward.....return
52560	20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65	.F.linear(input,.self.weight,.se
52580	6c 66 2e 62 69 61 73 29 0a f1 16 0a 07 76 61 6c 5f 32 36 39 0a 30 62 65 72 74 2e 65 6e 63 6f 64	lf.bias).....val_269.0bert.encod
525a0	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73	er.layer.2.attention.output.dens
525c0	65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 35 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31	e.bias..linear_15..node_linear_1
525e0	35 22 03 41 64 64 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f	5".AddJ....namespace...:.transfo
52600	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
52620	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
52640	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
52660	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
52680	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
526a0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
526c0	6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.2:.transformers.models.ber
526e0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
52700	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.2.attention:.transf
52720	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
52740	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
52760	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	r.2.attention.output:.transforme
52780	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
527a0	74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	tSelfOutput/bert.encoder.layer.2
527c0	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e	.attention.output.dense:.torch.n
527e0	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31	n.modules.linear.Linear/linear_1
52800	35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74	5:.aten.linear.defaultJ....pkg.t
52820	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
52840	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
52860	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
52880	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
528a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
528c0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
528e0	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
52900	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
52920	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
52940	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
52960	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
52980	42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	BertSelfOutput',.'torch.nn.modul
529a0	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	es.linear.Linear',.'aten.linear.
529c0	64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
529e0	6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 31 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	node...%linear_15.:.[num_users=1
52a00	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
52a20	70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ps.aten.linear.default](args.=.(
52a40	25 76 69 65 77 5f 31 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	%view_11,.%p_bert_encoder_layer_
52a60	32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c	2_attention_output_dense_weight,
52a80	20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69	.%p_bert_encoder_layer_2_attenti
52aa0	6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20	on_output_dense_bias),.kwargs.=.
52ac0	7b 7d 29 4a da 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
52ae0	65 73 12 bb 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
52b00	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.2',.'bert.
52b20	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.2.attention',.'ber
52b40	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70	t.encoder.layer.2.attention.outp
52b60	75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e	ut',.'bert.encoder.layer.2.atten
52b80	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 35 27 5d	tion.output.dense',.'linear_15']
52ba0	4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
52bc0	ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
52be0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
52c00	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
52c20	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
52c40	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
52c60	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
52c80	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
52ca0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
52cc0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
52ce0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
52d00	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
52d20	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
52d40	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
52d60	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
52d80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
52da0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
52dc0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
52de0	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
52e00	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
52e20	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
52e40	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
52e60	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
52e80	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
52ea0	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
52ec0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
52ee0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
52f00	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
52f20	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.497,.in.forward.....
52f40	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73	attention_output.=.self.output(s
52f60	65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	elf_outputs[0],.hidden_states)..
52f80	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
52fa0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
52fc0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
52fe0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
53000	6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f	line.436,.in.forward.....hidden_
53020	73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65	states.=.self.dense(hidden_state
53040	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
53060	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
53080	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e	ython3.10/site-packages/torch/nn
530a0	2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69	/modules/linear.py",.line.134,.i
530c0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e	n.forward.....return.F.linear(in
530e0	70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 97 13 0a	put,.self.weight,.self.bias)....
53100	09 6c 69 6e 65 61 72 5f 31 35 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 12 07 61 64 64 5f 32 37	.linear_15..layer_norm_4..add_27
53120	32 1a 0c 6e 6f 64 65 5f 61 64 64 5f 32 37 32 22 03 41 64 64 4a db 03 0a 09 6e 61 6d 65 73 70 61	2..node_add_272".AddJ....namespa
53140	63 65 12 cd 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
53160	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
53180	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
531a0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
531c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
531e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
53200	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.2:.transform
53220	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
53240	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	rtLayer/bert.encoder.layer.2.att
53260	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
53280	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
532a0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70	t.encoder.layer.2.attention.outp
532c0	75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	ut:.transformers.models.bert.mod
532e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 61 64 64 5f 32 37	eling_bert.BertSelfOutput/add_27
53300	32 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a 8a 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	2:.aten.add.TensorJ....pkg.torch
53320	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 e7 02 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
53340	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
53360	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
53380	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
533a0	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
533c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
533e0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
53400	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
53420	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
53440	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
53460	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
53480	53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a	SelfOutput',.'aten.add.Tensor']J
534a0	93 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 79 25 61 64 64	....pkg.torch.onnx.fx_node.y%add
534c0	5f 32 37 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	_272.:.[num_users=1].=.call_func
534e0	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54	tion[target=torch.ops.aten.add.T
53500	65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 36 2c 20 25 6c 61 79 65 72 5f	ensor](args.=.(%clone_6,.%layer_
53520	6e 6f 72 6d 5f 34 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a9 01 0a 1a 70 6b 67 2e 74 6f	norm_4),.kwargs.=.{})J....pkg.to
53540	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8a 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
53560	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
53580	72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.2',.'bert.encoder.layer.
535a0	32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	2.attention',.'bert.encoder.laye
535c0	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 32 37 32 27	r.2.attention.output',.'add_272'
535e0	5d 4a b2 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
53600	12 93 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
53620	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
53640	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
53660	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
53680	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
536a0	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
536c0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
536e0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
53700	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
53720	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
53740	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
53760	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
53780	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
537a0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
537c0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
537e0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
53800	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
53820	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
53840	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
53860	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
53880	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
538a0	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
538c0	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
538e0	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
53900	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
53920	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
53940	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
53960	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.497,.in.forward....
53980	20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28	.attention_output.=.self.output(
539a0	73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a	self_outputs[0],.hidden_states).
539c0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
539e0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
53a00	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
53a20	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
53a40	20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e	.line.438,.in.forward.....hidden
53a60	5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f	_states.=.self.LayerNorm(hidden_
53a80	73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a c5 18 0a 07 61 64 64 5f 32	states.+.input_tensor).....add_2
53aa0	37 32 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69	72.6bert.encoder.layer.2.attenti
53ac0	6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 34 62 65 72 74	on.output.LayerNorm.weight.4bert
53ae0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75	.encoder.layer.2.attention.outpu
53b00	74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 1a 11	t.LayerNorm.bias..layer_norm_5..
53b20	6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a	node_layer_norm_5".LayerNormaliz
53b40	61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69	ation*...stash_type.....*...epsi
53b60	6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01	lon....+...*...axis.............
53b80	02 4a c2 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 b4 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.J....namespace...:.transformers
53ba0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
53bc0	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
53be0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
53c00	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
53c20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
53c40	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
53c60	2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.2:.transformers.models.bert.mod
53c80	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
53ca0	72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.2.attention:.transformer
53cc0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
53ce0	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61	Attention/bert.encoder.layer.2.a
53d00	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ttention.output:.transformers.mo
53d20	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66	dels.bert.modeling_bert.BertSelf
53d40	4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	Output/bert.encoder.layer.2.atte
53d60	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e	ntion.output.LayerNorm:.torch.nn
53d80	2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d	.modules.normalization.LayerNorm
53da0	2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64	/layer_norm_5:.aten.layer_norm.d
53dc0	65 66 61 75 6c 74 4a be 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	efaultJ....pkg.torch.onnx.class_
53de0	68 69 65 72 61 72 63 68 79 12 9b 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
53e00	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
53e20	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
53e40	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
53e60	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
53e80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
53ea0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
53ec0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
53ee0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
53f00	6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ntion',.'transformers.models.ber
53f20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c	t.modeling_bert.BertSelfOutput',
53f40	20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e	.'torch.nn.modules.normalization
53f60	2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65	.LayerNorm',.'aten.layer_norm.de
53f80	66 61 75 6c 74 27 5d 4a 94 02 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
53fa0	64 65 12 f9 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	de...%layer_norm_5.:.[num_users=
53fc0	32 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	2].=.call_function[target=torch.
53fe0	6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	ops.aten.layer_norm.default](arg
54000	73 20 3d 20 28 25 61 64 64 5f 32 37 32 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e	s.=.(%add_272,.[256],.%p_bert_en
54020	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_2_attention_output_l
54040	61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	ayernorm_weight,.%p_bert_encoder
54060	5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e	_layer_2_attention_output_layern
54080	6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a e1	orm_bias,.1e-12),.kwargs.=.{})J.
540a0	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 c2 01	...pkg.torch.onnx.name_scopes...
540c0	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
540e0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.2',.'bert.encod
54100	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.2.attention',.'bert.enc
54120	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20	oder.layer.2.attention.output',.
54140	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
54160	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35	output.LayerNorm',.'layer_norm_5
54180	27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
541a0	65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
541c0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
541e0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
54200	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
54220	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
54240	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
54260	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
54280	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
542a0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
542c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
542e0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
54300	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
54320	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
54340	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
54360	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
54380	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
543a0	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
543c0	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
543e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
54400	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
54420	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
54440	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
54460	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
54480	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
544a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
544c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
544e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
54500	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.497,.in.forward...
54520	20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74	..attention_output.=.self.output
54540	28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29	(self_outputs[0],.hidden_states)
54560	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
54580	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
545a0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
545c0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
545e0	2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65	,.line.438,.in.forward.....hidde
54600	6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e	n_states.=.self.LayerNorm(hidden
54620	5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22	_states.+.input_tensor)...File."
54640	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
54660	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
54680	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f	ite-packages/torch/nn/modules/no
546a0	72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f	rmalization.py",.line.229,.in.fo
546c0	72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a b9	rward.....return.F.layer_norm(..
546e0	13 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 0a 07 76 61 6c 5f 32 37 32 12 07 76 61 6c 5f 32 37	...layer_norm_5..val_272..val_27
54700	33 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32 36 31 22 06 4d 61 74 4d 75 6c 4a d2 03 0a 09 6e	3..node_MatMul_261".MatMulJ....n
54720	61 6d 65 73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
54740	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
54760	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
54780	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
547a0	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
547c0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
547e0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61	ncoder/bert.encoder.layer.2:.tra
54800	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
54820	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
54840	2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.2.intermediate:.transformers.mo
54860	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65	dels.bert.modeling_bert.BertInte
54880	72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e	rmediate/bert.encoder.layer.2.in
548a0	74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	termediate.dense:.torch.nn.modul
548c0	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 36 3a 20 61 74 65 6e	es.linear.Linear/linear_16:.aten
548e0	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	.linear.defaultJ....pkg.torch.on
54900	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
54920	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
54940	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
54960	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
54980	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
549a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
549c0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
549e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
54a00	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
54a20	2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f	.BertIntermediate',.'torch.nn.mo
54a40	64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65	dules.linear.Linear',.'aten.line
54a60	61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ar.default']J....pkg.torch.onnx.
54a80	66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 31 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	fx_node...%linear_16.:.[num_user
54aa0	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
54ac0	68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	h.ops.aten.linear.default](args.
54ae0	3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	=.(%layer_norm_5,.%p_bert_encode
54b00	72 5f 6c 61 79 65 72 5f 32 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69	r_layer_2_intermediate_dense_wei
54b20	67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 69 6e 74	ght,.%p_bert_encoder_layer_2_int
54b40	65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20	ermediate_dense_bias),.kwargs.=.
54b60	7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
54b80	65 73 12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
54ba0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.2',.'bert.
54bc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27	encoder.layer.2.intermediate',.'
54be0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74	bert.encoder.layer.2.intermediat
54c00	65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 36 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74	e.dense',.'linear_16']J....pkg.t
54c20	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
54c40	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
54c60	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
54c80	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
54ca0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
54cc0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
54ce0	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
54d00	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
54d20	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
54d40	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
54d60	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
54d80	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
54da0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
54dc0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
54de0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
54e00	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
54e20	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
54e40	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
54e60	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
54e80	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
54ea0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
54ec0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
54ee0	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20	88,.in.forward.....layer_output.
54f00	3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46	=.apply_chunking_to_forward(...F
54f20	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
54f40	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
54f60	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
54f80	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
54fa0	6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74	ne.512,.in.forward.....hidden_st
54fc0	61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29	ates.=.self.dense(hidden_states)
54fe0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
55000	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
55020	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d	hon3.10/site-packages/torch/nn/m
55040	6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20	odules/linear.py",.line.134,.in.
55060	66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75	forward.....return.F.linear(inpu
55080	74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d7 13 0a 07 76	t,.self.weight,.self.bias).....v
550a0	61 6c 5f 32 37 33 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74	al_273.,bert.encoder.layer.2.int
550c0	65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 36 1a	ermediate.dense.bias..linear_16.
550e0	0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 36 22 03 41 64 64 4a d2 03 0a 09 6e 61 6d 65 73 70 61	.node_linear_16".AddJ....namespa
55100	63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
55120	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
55140	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
55160	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
55180	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
551a0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
551c0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.2:.transform
551e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
55200	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74	rtLayer/bert.encoder.layer.2.int
55220	65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ermediate:.transformers.models.b
55240	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61	ert.modeling_bert.BertIntermedia
55260	74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64	te/bert.encoder.layer.2.intermed
55280	69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	iate.dense:.torch.nn.modules.lin
552a0	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 36 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	ear.Linear/linear_16:.aten.linea
552c0	72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
552e0	73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
55300	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
55320	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
55340	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
55360	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
55380	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
553a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
553c0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
553e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49	.models.bert.modeling_bert.BertI
55400	6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	ntermediate',.'torch.nn.modules.
55420	6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	linear.Linear',.'aten.linear.def
55440	61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
55460	65 12 d9 01 25 6c 69 6e 65 61 72 5f 31 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	e...%linear_16.:.[num_users=1].=
55480	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
554a0	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61	aten.linear.default](args.=.(%la
554c0	79 65 72 5f 6e 6f 72 6d 5f 35 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	yer_norm_5,.%p_bert_encoder_laye
554e0	72 5f 32 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25	r_2_intermediate_dense_weight,.%
55500	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 69 6e 74 65 72 6d 65 64 69	p_bert_encoder_layer_2_intermedi
55520	61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01	ate_dense_bias),.kwargs.=.{})J..
55540	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b	..pkg.torch.onnx.name_scopes...[
55560	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
55580	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.2',.'bert.encode
555a0	72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65	r.layer.2.intermediate',.'bert.e
555c0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73	ncoder.layer.2.intermediate.dens
555e0	65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 36 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	e',.'linear_16']J....pkg.torch.o
55600	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
55620	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
55640	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
55660	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
55680	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
556a0	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
556c0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
556e0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
55700	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
55720	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
55740	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
55760	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
55780	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
557a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
557c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
557e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
55800	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
55820	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
55840	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
55860	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
55880	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
558a0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e	/modeling_bert.py",.line.588,.in
558c0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c	.forward.....layer_output.=.appl
558e0	79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f	y_chunking_to_forward(...File."/
55900	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
55920	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
55940	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
55960	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32	bert/modeling_bert.py",.line.512
55980	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
559a0	20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c	.self.dense(hidden_states)...Fil
559c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
559e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
55a00	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73	0/site-packages/torch/nn/modules
55a20	2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72	/linear.py",.line.134,.in.forwar
55a40	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c	d.....return.F.linear(input,.sel
55a60	66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a de 12 0a 09 6c 69 6e 65 61 72 5f	f.weight,.self.bias).....linear_
55a80	31 36 0a 07 76 61 6c 5f 31 32 36 12 07 76 61 6c 5f 32 37 35 1a 0c 6e 6f 64 65 5f 44 69 76 5f 32	16..val_126..val_275..node_Div_2
55aa0	36 33 22 03 44 69 76 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66	63".DivJ....namespace...:.transf
55ac0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
55ae0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
55b00	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
55b20	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
55b40	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
55b60	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
55b80	2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.2:.transformers.models.be
55ba0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
55bc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72	encoder.layer.2.intermediate:.tr
55be0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
55c00	62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64	bert.BertIntermediate/bert.encod
55c20	65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64	er.layer.2.intermediate.intermed
55c40	69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61	iate_act_fn:.transformers.activa
55c60	74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 32 3a 20 61 74 65	tions.GELUActivation/gelu_2:.ate
55c80	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	n.gelu.defaultJ....pkg.torch.onn
55ca0	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
55cc0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
55ce0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
55d00	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
55d20	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
55d40	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
55d60	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
55d80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
55da0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
55dc0	42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	BertIntermediate',.'transformers
55de0	2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61	.activations.GELUActivation',.'a
55e00	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ten.gelu.default']J....pkg.torch
55e20	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73	.onnx.fx_node.n%gelu_2.:.[num_us
55e40	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
55e60	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	rch.ops.aten.gelu.default](args.
55e80	3d 20 28 25 6c 69 6e 65 61 72 5f 31 36 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01	=.(%linear_16,),.kwargs.=.{})J..
55ea0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b	..pkg.torch.onnx.name_scopes...[
55ec0	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
55ee0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.2',.'bert.encode
55f00	72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65	r.layer.2.intermediate',.'bert.e
55f20	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65	ncoder.layer.2.intermediate.inte
55f40	72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 32 27 5d 4a f7 08 0a 1a	rmediate_act_fn',.'gelu_2']J....
55f60	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
55f80	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
55fa0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
55fc0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
55fe0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
56000	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
56020	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
56040	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
56060	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
56080	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
560a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
560c0	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
560e0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
56100	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
56120	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
56140	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
56160	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
56180	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
561a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
561c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
561e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
56200	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
56220	69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.588,.in.forward.....layer_ou
56240	74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64	tput.=.apply_chunking_to_forward
56260	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
56280	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
562a0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
562c0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
562e0	22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64	",.line.513,.in.forward.....hidd
56300	65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	en_states.=.self.intermediate_ac
56320	74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	t_fn(hidden_states)...File."/hom
56340	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
56360	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
56380	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e	packages/transformers/activation
563a0	73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	s.py",.line.85,.in.forward.....r
563c0	65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a d3 12 0a 07 76 61 6c 5f 32 37	eturn.self.act(input).....val_27
563e0	35 12 07 76 61 6c 5f 32 37 36 1a 0c 6e 6f 64 65 5f 45 72 66 5f 32 36 34 22 03 45 72 66 4a e4 03	5..val_276..node_Erf_264".ErfJ..
56400	0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
56420	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
56440	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
56460	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
56480	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
564a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
564c0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20	rtEncoder/bert.encoder.layer.2:.
564e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
56500	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
56520	79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	yer.2.intermediate:.transformers
56540	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49	.models.bert.modeling_bert.BertI
56560	6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	ntermediate/bert.encoder.layer.2
56580	2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66	.intermediate.intermediate_act_f
565a0	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55	n:.transformers.activations.GELU
565c0	41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 32 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66	Activation/gelu_2:.aten.gelu.def
565e0	61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
56600	65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
56620	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
56640	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
56660	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
56680	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
566a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
566c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
566e0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
56700	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d	ls.bert.modeling_bert.BertInterm
56720	65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f	ediate',.'transformers.activatio
56740	6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64	ns.GELUActivation',.'aten.gelu.d
56760	65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
56780	6f 64 65 12 6e 25 67 65 6c 75 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	ode.n%gelu_2.:.[num_users=1].=.c
567a0	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
567c0	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72	en.gelu.default](args.=.(%linear
567e0	5f 31 36 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63	_16,),.kwargs.=.{})J....pkg.torc
56800	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
56820	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
56840	6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	layer.2',.'bert.encoder.layer.2.
56860	69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	intermediate',.'bert.encoder.lay
56880	65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61	er.2.intermediate.intermediate_a
568a0	63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 32 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	ct_fn',.'gelu_2']J....pkg.torch.
568c0	6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	onnx.stack_trace...File."/home/h
568e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
56900	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
56920	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
56940	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20	odeling_bert.py",.line.1676,.in.
56960	66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28	forward.....outputs.=.self.bert(
56980	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
569a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
569c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
569e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
56a00	2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f	,.line.1000,.in.forward.....enco
56a20	64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69	der_outputs.=.self.encoder(...Fi
56a40	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
56a60	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
56a80	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
56aa0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
56ac0	65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70	e.650,.in.forward.....layer_outp
56ae0	75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.layer_module(...File."/hom
56b00	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
56b20	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
56b40	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
56b60	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69	t/modeling_bert.py",.line.588,.i
56b80	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70	n.forward.....layer_output.=.app
56ba0	6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22	ly_chunking_to_forward(...File."
56bc0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
56be0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
56c00	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
56c20	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31	/bert/modeling_bert.py",.line.51
56c40	33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20	3,.in.forward.....hidden_states.
56c60	3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65	=.self.intermediate_act_fn(hidde
56c80	6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	n_states)...File."/home/hsiangni
56ca0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
56cc0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
56ce0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e	ransformers/activations.py",.lin
56d00	65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66	e.85,.in.forward.....return.self
56d20	2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 32 37 36 0a 07 63 6c 6f 6e 65 5f 31	.act(input).....val_276..clone_1
56d40	12 07 76 61 6c 5f 32 37 38 1a 0c 6e 6f 64 65 5f 41 64 64 5f 32 36 36 22 03 41 64 64 4a e4 03 0a	..val_278..node_Add_266".AddJ...
56d60	09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
56d80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
56da0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
56dc0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
56de0	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
56e00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
56e20	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74	tEncoder/bert.encoder.layer.2:.t
56e40	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
56e60	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
56e80	65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	er.2.intermediate:.transformers.
56ea0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e	models.bert.modeling_bert.BertIn
56ec0	74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e	termediate/bert.encoder.layer.2.
56ee0	69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e	intermediate.intermediate_act_fn
56f00	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41	:.transformers.activations.GELUA
56f20	63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 32 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61	ctivation/gelu_2:.aten.gelu.defa
56f40	75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
56f60	72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
56f80	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
56fa0	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
56fc0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
56fe0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
57000	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
57020	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
57040	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
57060	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65	s.bert.modeling_bert.BertInterme
57080	64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e	diate',.'transformers.activation
570a0	73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65	s.GELUActivation',.'aten.gelu.de
570c0	66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
570e0	64 65 12 6e 25 67 65 6c 75 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	de.n%gelu_2.:.[num_users=1].=.ca
57100	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
57120	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f	n.gelu.default](args.=.(%linear_
57140	31 36 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	16,),.kwargs.=.{})J....pkg.torch
57160	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
57180	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
571a0	61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69	ayer.2',.'bert.encoder.layer.2.i
571c0	6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ntermediate',.'bert.encoder.laye
571e0	72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	r.2.intermediate.intermediate_ac
57200	74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 32 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	t_fn',.'gelu_2']J....pkg.torch.o
57220	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
57240	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
57260	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
57280	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
572a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
572c0	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
572e0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
57300	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
57320	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
57340	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
57360	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
57380	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
573a0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
573c0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
573e0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
57400	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
57420	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
57440	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
57460	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
57480	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
574a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
574c0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e	/modeling_bert.py",.line.588,.in
574e0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c	.forward.....layer_output.=.appl
57500	79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f	y_chunking_to_forward(...File."/
57520	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
57540	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
57560	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
57580	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33	bert/modeling_bert.py",.line.513
575a0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
575c0	20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e	.self.intermediate_act_fn(hidden
575e0	5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	_states)...File."/home/hsiangnia
57600	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
57620	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
57640	61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65	ansformers/activations.py",.line
57660	20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e	.85,.in.forward.....return.self.
57680	61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 31 33 31 0a 07 76 61 6c 5f 32 37 38 12	act(input).....val_131..val_278.
576a0	07 76 61 6c 5f 32 38 30 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 32 36 38 22 03 4d 75 6c 4a e4 03 0a 09	.val_280..node_Mul_268".MulJ....
576c0	6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
576e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
57700	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
57720	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
57740	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
57760	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
57780	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72	Encoder/bert.encoder.layer.2:.tr
577a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
577c0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
577e0	72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	r.2.intermediate:.transformers.m
57800	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74	odels.bert.modeling_bert.BertInt
57820	65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69	ermediate/bert.encoder.layer.2.i
57840	6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a	ntermediate.intermediate_act_fn:
57860	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63	.transformers.activations.GELUAc
57880	74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 32 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75	tivation/gelu_2:.aten.gelu.defau
578a0	6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
578c0	61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
578e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
57900	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
57920	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
57940	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
57960	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
57980	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
579a0	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
579c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64	.bert.modeling_bert.BertIntermed
579e0	69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73	iate',.'transformers.activations
57a00	2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66	.GELUActivation',.'aten.gelu.def
57a20	61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
57a40	65 12 6e 25 67 65 6c 75 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	e.n%gelu_2.:.[num_users=1].=.cal
57a60	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
57a80	2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31	.gelu.default](args.=.(%linear_1
57aa0	36 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	6,),.kwargs.=.{})J....pkg.torch.
57ac0	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
57ae0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
57b00	79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e	yer.2',.'bert.encoder.layer.2.in
57b20	74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	termediate',.'bert.encoder.layer
57b40	2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74	.2.intermediate.intermediate_act
57b60	5f 66 6e 27 2c 20 27 67 65 6c 75 5f 32 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	_fn',.'gelu_2']J....pkg.torch.on
57b80	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
57ba0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
57bc0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
57be0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
57c00	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
57c20	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
57c40	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
57c60	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
57c80	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
57ca0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
57cc0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
57ce0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
57d00	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
57d20	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
57d40	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
57d60	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
57d80	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
57da0	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
57dc0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
57de0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
57e00	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
57e20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
57e40	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
57e60	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
57e80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
57ea0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
57ec0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
57ee0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c	ert/modeling_bert.py",.line.513,
57f00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
57f20	73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f	self.intermediate_act_fn(hidden_
57f40	73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	states)...File."/home/hsiangnian
57f60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
57f80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
57fa0	6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20	nsformers/activations.py",.line.
57fc0	38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61	85,.in.forward.....return.self.a
57fe0	63 74 28 69 6e 70 75 74 29 0a dc 12 0a 09 6c 69 6e 65 61 72 5f 31 36 0a 07 76 61 6c 5f 32 38 30	ct(input).....linear_16..val_280
58000	12 06 67 65 6c 75 5f 32 1a 0b 6e 6f 64 65 5f 67 65 6c 75 5f 32 22 03 4d 75 6c 4a e4 03 0a 09 6e	..gelu_2..node_gelu_2".MulJ....n
58020	61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
58040	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
58060	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
58080	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
580a0	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
580c0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
580e0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61	ncoder/bert.encoder.layer.2:.tra
58100	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
58120	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
58140	2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.2.intermediate:.transformers.mo
58160	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65	dels.bert.modeling_bert.BertInte
58180	72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e	rmediate/bert.encoder.layer.2.in
581a0	74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20	termediate.intermediate_act_fn:.
581c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74	transformers.activations.GELUAct
581e0	69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 32 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c	ivation/gelu_2:.aten.gelu.defaul
58200	74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
58220	72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
58240	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
58260	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
58280	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
582a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
582c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
582e0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
58300	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
58320	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69	bert.modeling_bert.BertIntermedi
58340	61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e	ate',.'transformers.activations.
58360	47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61	GELUActivation',.'aten.gelu.defa
58380	75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
583a0	12 6e 25 67 65 6c 75 5f 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	.n%gelu_2.:.[num_users=1].=.call
583c0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
583e0	67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 36	gelu.default](args.=.(%linear_16
58400	2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	,),.kwargs.=.{})J....pkg.torch.o
58420	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
58440	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
58460	65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74	er.2',.'bert.encoder.layer.2.int
58480	65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ermediate',.'bert.encoder.layer.
584a0	32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f	2.intermediate.intermediate_act_
584c0	66 6e 27 2c 20 27 67 65 6c 75 5f 32 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	fn',.'gelu_2']J....pkg.torch.onn
584e0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
58500	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
58520	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
58540	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
58560	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
58580	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
585a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
585c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
585e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
58600	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
58620	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
58640	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
58660	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
58680	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
586a0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
586c0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
586e0	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
58700	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
58720	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
58740	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
58760	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
58780	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.588,.in.f
587a0	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f	orward.....layer_output.=.apply_
587c0	63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	chunking_to_forward(...File."/ho
587e0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
58800	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
58820	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
58840	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20	rt/modeling_bert.py",.line.513,.
58860	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73	in.forward.....hidden_states.=.s
58880	65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73	elf.intermediate_act_fn(hidden_s
588a0	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
588c0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
588e0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
58900	73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38	sformers/activations.py",.line.8
58920	35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63	5,.in.forward.....return.self.ac
58940	74 28 69 6e 70 75 74 29 0a fd 12 0a 06 67 65 6c 75 5f 32 0a 07 76 61 6c 5f 32 38 31 12 07 76 61	t(input).....gelu_2..val_281..va
58960	6c 5f 32 38 32 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32 37 30 22 06 4d 61 74 4d 75 6c 4a c0	l_282..node_MatMul_270".MatMulJ.
58980	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
589a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
589c0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
589e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
58a00	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
58a20	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
58a40	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a	ertEncoder/bert.encoder.layer.2:
58a60	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
58a80	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
58aa0	61 79 65 72 2e 32 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ayer.2.output:.transformers.mode
58ac0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74	ls.bert.modeling_bert.BertOutput
58ae0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e	/bert.encoder.layer.2.output.den
58b00	73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65	se:.torch.nn.modules.linear.Line
58b20	61 72 2f 6c 69 6e 65 61 72 5f 31 37 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ar/linear_17:.aten.linear.defaul
58b40	74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
58b60	72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
58b80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
58ba0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
58bc0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
58be0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
58c00	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
58c20	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
58c40	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
58c60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20	bert.modeling_bert.BertOutput',.
58c80	27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27	'torch.nn.modules.linear.Linear'
58ca0	2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67	,.'aten.linear.default']J....pkg
58cc0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 31 37	.torch.onnx.fx_node...%linear_17
58ce0	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
58d00	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	[target=torch.ops.aten.linear.de
58d20	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 32 2c 20 25 70 5f 62 65 72 74 5f	fault](args.=.(%gelu_2,.%p_bert_
58d40	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69	encoder_layer_2_output_dense_wei
58d60	67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74	ght,.%p_bert_encoder_layer_2_out
58d80	70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01	put_dense_bias),.kwargs.=.{})J..
58da0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b	..pkg.torch.onnx.name_scopes...[
58dc0	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
58de0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.2',.'bert.encode
58e00	72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	r.layer.2.output',.'bert.encoder
58e20	2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f	.layer.2.output.dense',.'linear_
58e40	31 37 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	17']J....pkg.torch.onnx.stack_tr
58e60	61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
58e80	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
58ea0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
58ec0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
58ee0	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
58f00	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
58f20	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
58f40	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
58f60	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
58f80	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
58fa0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
58fc0	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
58fe0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
59000	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
59020	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
59040	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
59060	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
59080	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
590a0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
590c0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
590e0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
59100	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.588,.in.forward....
59120	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74	.layer_output.=.apply_chunking_t
59140	6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	o_forward(...File."/home/hsiangn
59160	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
59180	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
591a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
591c0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.525,.in.forward
591e0	0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28	.....hidden_states.=.self.dense(
59200	68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	hidden_states)...File."/home/hsi
59220	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
59240	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
59260	67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c	ges/torch/nn/modules/linear.py",
59280	20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e	.line.134,.in.forward.....return
592a0	20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65	.F.linear(input,.self.weight,.se
592c0	6c 66 2e 62 69 61 73 29 0a 9b 13 0a 07 76 61 6c 5f 32 38 32 0a 26 62 65 72 74 2e 65 6e 63 6f 64	lf.bias).....val_282.&bert.encod
592e0	65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69	er.layer.2.output.dense.bias..li
59300	6e 65 61 72 5f 31 37 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 37 22 03 41 64 64 4a c0 03 0a	near_17..node_linear_17".AddJ...
59320	09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
59340	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
59360	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
59380	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
593a0	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
593c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
593e0	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74	tEncoder/bert.encoder.layer.2:.t
59400	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
59420	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
59440	65 72 2e 32 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	er.2.output:.transformers.models
59460	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62	.bert.modeling_bert.BertOutput/b
59480	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.2.output.dense
594a0	3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72	:.torch.nn.modules.linear.Linear
594c0	2f 6c 69 6e 65 61 72 5f 31 37 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a	/linear_17:.aten.linear.defaultJ
594e0	f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
59500	68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
59520	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
59540	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
59560	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
59580	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
595a0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
595c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
595e0	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
59600	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74	rt.modeling_bert.BertOutput',.'t
59620	6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20	orch.nn.modules.linear.Linear',.
59640	27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74	'aten.linear.default']J....pkg.t
59660	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 31 37 20 3a	orch.onnx.fx_node...%linear_17.:
59680	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=1].=.call_function[t
596a0	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61	arget=torch.ops.aten.linear.defa
596c0	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 32 2c 20 25 70 5f 62 65 72 74 5f 65 6e	ult](args.=.(%gelu_2,.%p_bert_en
596e0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68	coder_layer_2_output_dense_weigh
59700	74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75	t,.%p_bert_encoder_layer_2_outpu
59720	74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a	t_dense_bias),.kwargs.=.{})J....
59740	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
59760	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
59780	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.2',.'bert.encoder.
597a0	6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	layer.2.output',.'bert.encoder.l
597c0	61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 31 37	ayer.2.output.dense',.'linear_17
597e0	27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
59800	65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
59820	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
59840	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
59860	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
59880	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
598a0	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
598c0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
598e0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
59900	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
59920	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
59940	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
59960	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
59980	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
599a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
599c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
599e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
59a00	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
59a20	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
59a40	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
59a60	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
59a80	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
59aa0	2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.588,.in.forward.....l
59ac0	61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f	ayer_output.=.apply_chunking_to_
59ae0	66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	forward(...File."/home/hsiangnia
59b00	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
59b20	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
59b40	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
59b60	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.525,.in.forward..
59b80	20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69	...hidden_states.=.self.dense(hi
59ba0	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
59bc0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
59be0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
59c00	73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c	s/torch/nn/modules/linear.py",.l
59c20	69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46	ine.134,.in.forward.....return.F
59c40	2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66	.linear(input,.self.weight,.self
59c60	2e 62 69 61 73 29 0a f2 0f 0a 09 6c 69 6e 65 61 72 5f 31 37 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d	.bias).....linear_17..layer_norm
59c80	5f 35 12 07 61 64 64 5f 32 39 31 1a 0c 6e 6f 64 65 5f 61 64 64 5f 32 39 31 22 03 41 64 64 4a f8	_5..add_291..node_add_291".AddJ.
59ca0	02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ea 02 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
59cc0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
59ce0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
59d00	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
59d20	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
59d40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
59d60	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a	ertEncoder/bert.encoder.layer.2:
59d80	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
59da0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
59dc0	61 79 65 72 2e 32 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ayer.2.output:.transformers.mode
59de0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74	ls.bert.modeling_bert.BertOutput
59e00	2f 61 64 64 5f 32 39 31 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a ce 02 0a 1e 70 6b	/add_291:.aten.add.TensorJ....pk
59e20	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 ab 02 5b	g.torch.onnx.class_hierarchy...[
59e40	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
59e60	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
59e80	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
59ea0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
59ec0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
59ee0	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
59f00	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
59f20	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
59f40	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e 61 64	eling_bert.BertOutput',.'aten.ad
59f60	64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	d.Tensor']J....pkg.torch.onnx.fx
59f80	5f 6e 6f 64 65 12 79 25 61 64 64 5f 32 39 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	_node.y%add_291.:.[num_users=1].
59fa0	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
59fc0	2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65	.aten.add.Tensor](args.=.(%clone
59fe0	5f 37 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	_7,.%layer_norm_5),.kwargs.=.{})
5a000	4a 7c 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 5e	J|..pkg.torch.onnx.name_scopes.^
5a020	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
5a040	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.2',.'bert.encod
5a060	65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 32 39 31 27 5d 4a da	er.layer.2.output',.'add_291']J.
5a080	07 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 bb 07	...pkg.torch.onnx.stack_trace...
5a0a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
5a0c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
5a0e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
5a100	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
5a120	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
5a140	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
5a160	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
5a180	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
5a1a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
5a1c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
5a1e0	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
5a200	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
5a220	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
5a240	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
5a260	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
5a280	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
5a2a0	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
5a2c0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
5a2e0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
5a300	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
5a320	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
5a340	2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.588,.in.forward.....layer
5a360	5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77	_output.=.apply_chunking_to_forw
5a380	61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ard(...File."/home/hsiangnianian
5a3a0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
5a3c0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
5a3e0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
5a400	2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68	.py",.line.527,.in.forward.....h
5a420	69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69	idden_states.=.self.LayerNorm(hi
5a440	64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a e6 14 0a 07	dden_states.+.input_tensor).....
5a460	61 64 64 5f 32 39 31 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75	add_291.,bert.encoder.layer.2.ou
5a480	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 2a 62 65 72 74 2e 65 6e 63 6f	tput.LayerNorm.weight.*bert.enco
5a4a0	64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.2.output.LayerNorm.bia
5a4c0	73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 1a 11 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d	s..layer_norm_6..node_layer_norm
5a4e0	5f 36 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f	_6".LayerNormalization*...stash_
5a500	74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04	type.....*...epsilon....+...*...
5a520	61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a d5 03 0a 09 6e 61 6d 65 73 70 61 63 65	axis..............J....namespace
5a540	12 c7 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
5a560	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
5a580	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
5a5a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
5a5c0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
5a5e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
5a600	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.2:.transformer
5a620	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
5a640	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75	Layer/bert.encoder.layer.2.outpu
5a660	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
5a680	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ling_bert.BertOutput/bert.encode
5a6a0	72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63	r.layer.2.output.LayerNorm:.torc
5a6c0	68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72	h.nn.modules.normalization.Layer
5a6e0	4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f	Norm/layer_norm_6:.aten.layer_no
5a700	72 6d 2e 64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	rm.defaultJ....pkg.torch.onnx.cl
5a720	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
5a740	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
5a760	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
5a780	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
5a7a0	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
5a7c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
5a7e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
5a800	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
5a820	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
5a840	4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61	Output',.'torch.nn.modules.norma
5a860	6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72	lization.LayerNorm',.'aten.layer
5a880	5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 80 02 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	_norm.default']J....pkg.torch.on
5a8a0	6e 78 2e 66 78 5f 6e 6f 64 65 12 e5 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 20 3a 20 5b 6e 75	nx.fx_node...%layer_norm_6.:.[nu
5a8c0	6d 5f 75 73 65 72 73 3d 34 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=4].=.call_function[targe
5a8e0	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61	t=torch.ops.aten.layer_norm.defa
5a900	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 32 39 31 2c 20 5b 32 35 36 5d 2c 20 25 70	ult](args.=.(%add_291,.[256],.%p
5a920	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 6c 61 79	_bert_encoder_layer_2_output_lay
5a940	65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c	ernorm_weight,.%p_bert_encoder_l
5a960	61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65	ayer_2_output_layernorm_bias,.1e
5a980	2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	-12),.kwargs.=.{})J....pkg.torch
5a9a0	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
5a9c0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
5a9e0	61 79 65 72 2e 32 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f	ayer.2',.'bert.encoder.layer.2.o
5aa00	75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75	utput',.'bert.encoder.layer.2.ou
5aa20	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 27 5d	tput.LayerNorm',.'layer_norm_6']
5aa40	4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
5aa60	e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
5aa80	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
5aaa0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
5aac0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
5aae0	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
5ab00	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
5ab20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
5ab40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
5ab60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
5ab80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
5aba0	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
5abc0	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
5abe0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
5ac00	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
5ac20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
5ac40	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
5ac60	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
5ac80	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
5aca0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
5acc0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
5ace0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
5ad00	79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.588,.in.forward.....lay
5ad20	65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f	er_output.=.apply_chunking_to_fo
5ad40	72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	rward(...File."/home/hsiangniani
5ad60	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
5ad80	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
5ada0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
5adc0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.527,.in.forward....
5ade0	20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28	.hidden_states.=.self.LayerNorm(
5ae00	68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a 20 20	hidden_states.+.input_tensor)...
5ae20	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
5ae40	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
5ae60	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75	3.10/site-packages/torch/nn/modu
5ae80	6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e 65 20 32 32 39 2c	les/normalization.py",.line.229,
5aea0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e	.in.forward.....return.F.layer_n
5aec0	6f 72 6d 28 0a f3 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 0a 07 76 61 6c 5f 32 38 35 12 07	orm(.....layer_norm_6..val_285..
5aee0	76 61 6c 5f 32 38 36 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32 37 32 22 06 4d 61 74 4d 75 6c	val_286..node_MatMul_272".MatMul
5af00	4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
5af20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
5af40	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
5af60	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
5af80	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
5afa0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
5afc0	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
5afe0	33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	3:.transformers.models.bert.mode
5b000	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
5b020	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.layer.3.attention:.transformers
5b040	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
5b060	74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	ttention/bert.encoder.layer.3.at
5b080	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tention.self:.transformers.model
5b0a0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
5b0c0	66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e	fAttention/bert.encoder.layer.3.
5b0e0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d	attention.self.query:.torch.nn.m
5b100	6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 38 3a 20	odules.linear.Linear/linear_18:.
5b120	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63	aten.linear.defaultJ....pkg.torc
5b140	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
5b160	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
5b180	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
5b1a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5b1c0	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
5b1e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
5b200	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
5b220	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
5b240	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
5b260	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
5b280	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
5b2a0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d	tSdpaSelfAttention',.'torch.nn.m
5b2c0	6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e	odules.linear.Linear',.'aten.lin
5b2e0	65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ear.default']J....pkg.torch.onnx
5b300	2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 31 38 20 3a 20 5b 6e 75 6d 5f 75 73 65	.fx_node...%linear_18.:.[num_use
5b320	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
5b340	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73	ch.ops.aten.linear.default](args
5b360	20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64	.=.(%layer_norm_6,.%p_bert_encod
5b380	65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f	er_layer_3_attention_self_query_
5b3a0	77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f	weight,.%p_bert_encoder_layer_3_
5b3c0	61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77 61 72	attention_self_query_bias),.kwar
5b3e0	67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
5b400	5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
5b420	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27	oder',.'bert.encoder.layer.3',.'
5b440	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c	bert.encoder.layer.3.attention',
5b460	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.3.attention
5b480	2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	.self',.'bert.encoder.layer.3.at
5b4a0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 31 38 27	tention.self.query',.'linear_18'
5b4c0	5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
5b4e0	12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
5b500	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
5b520	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
5b540	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
5b560	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
5b580	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
5b5a0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
5b5c0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
5b5e0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
5b600	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
5b620	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
5b640	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
5b660	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
5b680	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
5b6a0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
5b6c0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
5b6e0	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
5b700	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
5b720	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
5b740	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
5b760	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
5b780	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
5b7a0	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
5b7c0	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
5b7e0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
5b800	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
5b820	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
5b840	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.488,.in.forward....
5b860	20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c	.self_outputs.=.self.self(...Fil
5b880	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
5b8a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
5b8c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
5b8e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
5b900	20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28	.363,.in.forward.....self.query(
5b920	68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c	hidden_states).view(bsz,.-1,.sel
5b940	66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65	f.num_attention_heads,.self.atte
5b960	6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29	ntion_head_size).transpose(1,.2)
5b980	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
5b9a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
5b9c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d	hon3.10/site-packages/torch/nn/m
5b9e0	6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20	odules/linear.py",.line.134,.in.
5ba00	66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75	forward.....return.F.linear(inpu
5ba20	74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 93 17 0a 07 76	t,.self.weight,.self.bias).....v
5ba40	61 6c 5f 32 38 36 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74	al_286..bert.encoder.layer.3.att
5ba60	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31	ention.self.query.bias..linear_1
5ba80	38 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 31 38 22 03 41 64 64 4a b0 04 0a 09 6e 61 6d 65 73	8..node_linear_18".AddJ....names
5baa0	70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
5bac0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
5bae0	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
5bb00	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
5bb20	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
5bb40	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
5bb60	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.3:.transfo
5bb80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
5bba0	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61	BertLayer/bert.encoder.layer.3.a
5bbc0	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
5bbe0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
5bc00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
5bc20	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
5bc40	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
5bc60	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.3.attention.
5bc80	73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	self.query:.torch.nn.modules.lin
5bca0	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 38 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	ear.Linear/linear_18:.aten.linea
5bcc0	72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
5bce0	73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
5bd00	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
5bd20	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
5bd40	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
5bd60	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
5bd80	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
5bda0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5bdc0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
5bde0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
5be00	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
5be20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
5be40	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	ttention',.'torch.nn.modules.lin
5be60	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
5be80	74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd	t']J....pkg.torch.onnx.fx_node..
5bea0	01 25 6c 69 6e 65 61 72 5f 31 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	.%linear_18.:.[num_users=1].=.ca
5bec0	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
5bee0	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72	n.linear.default](args.=.(%layer
5bf00	5f 6e 6f 72 6d 5f 36 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33	_norm_6,.%p_bert_encoder_layer_3
5bf20	5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70	_attention_self_query_weight,.%p
5bf40	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_3_attention_
5bf60	73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6	self_query_bias),.kwargs.=.{})J.
5bf80	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01	...pkg.torch.onnx.name_scopes...
5bfa0	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
5bfc0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.3',.'bert.encod
5bfe0	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.3.attention',.'bert.enc
5c000	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62	oder.layer.3.attention.self',.'b
5c020	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
5c040	6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 31 38 27 5d 4a f6 0a 0a 1a 70 6b 67 2e	lf.query',.'linear_18']J....pkg.
5c060	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
5c080	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
5c0a0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
5c0c0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
5c0e0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
5c100	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
5c120	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
5c140	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
5c160	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
5c180	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
5c1a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
5c1c0	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
5c1e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
5c200	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
5c220	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
5c240	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
5c260	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
5c280	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
5c2a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
5c2c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
5c2e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
5c300	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
5c320	35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69	558,.in.forward.....self_attenti
5c340	6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46	on_outputs.=.self.attention(...F
5c360	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
5c380	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
5c3a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
5c3c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
5c3e0	6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70	ne.488,.in.forward.....self_outp
5c400	75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.self(...File."/home/h
5c420	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
5c440	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
5c460	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
5c480	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66	odeling_bert.py",.line.363,.in.f
5c4a0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61	orward.....self.query(hidden_sta
5c4c0	74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65	tes).view(bsz,.-1,.self.num_atte
5c4e0	6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64	ntion_heads,.self.attention_head
5c500	5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f	_size).transpose(1,.2)...File."/
5c520	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
5c540	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
5c560	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
5c580	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
5c5a0	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
5c5c0	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d4 13 0a 09 6c 69 6e 65 61 72 5f 31 38 0a 06	ight,.self.bias).....linear_18..
5c5e0	76 61 6c 5f 36 38 12 07 76 69 65 77 5f 31 32 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 31 32 22 07 52	val_68..view_12..node_view_12".R
5c600	65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d	eshape*...allowzero.....J....nam
5c620	65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
5c640	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
5c660	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
5c680	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
5c6a0	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
5c6c0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
5c6e0	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.3:.trans
5c700	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
5c720	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	t.BertLayer/bert.encoder.layer.3
5c740	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
5c760	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
5c780	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.3.attention.
5c7a0	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
5c7c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
5c7e0	6f 6e 2f 76 69 65 77 5f 31 32 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03	on/view_12:.aten.view.defaultJ..
5c800	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
5c820	12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
5c840	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
5c860	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
5c880	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
5c8a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
5c8c0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
5c8e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
5c900	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
5c920	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
5c940	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5c960	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
5c980	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.view.default']J....pkg.torc
5c9a0	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 31 32 20 3a 20 5b 6e 75 6d	h.onnx.fx_node...%view_12.:.[num
5c9c0	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
5c9e0	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72	=torch.ops.aten.view.default](ar
5ca00	67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 31 38 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74	gs.=.(%linear_18,.[%sym_size_int
5ca20	5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7	_45,.-1,.8,.32]),.kwargs.=.{})J.
5ca40	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01	...pkg.torch.onnx.name_scopes...
5ca60	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
5ca80	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.3',.'bert.encod
5caa0	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.3.attention',.'bert.enc
5cac0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76	oder.layer.3.attention.self',.'v
5cae0	69 65 77 5f 31 32 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	iew_12']J....pkg.torch.onnx.stac
5cb00	6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
5cb20	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
5cb40	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
5cb60	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
5cb80	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
5cba0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
5cbc0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
5cbe0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
5cc00	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
5cc20	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
5cc40	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
5cc60	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
5cc80	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
5cca0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
5ccc0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
5cce0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
5cd00	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
5cd20	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
5cd40	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
5cd60	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
5cd80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
5cda0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
5cdc0	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
5cde0	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
5ce00	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
5ce20	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
5ce40	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
5ce60	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
5ce80	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
5cea0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
5cec0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
5cee0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
5cf00	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
5cf20	22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.363,.in.forward.....self
5cf40	2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20	.query(hidden_states).view(bsz,.
5cf60	2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65	-1,.self.num_attention_heads,.se
5cf80	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73	lf.attention_head_size).transpos
5cfa0	65 28 31 2c 20 32 29 0a cd 13 0a 07 76 69 65 77 5f 31 32 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31	e(1,.2).....view_12..transpose_1
5cfc0	32 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 32 22 09 54 72 61 6e 73 70 6f 73 65 2a	2..node_transpose_12".Transpose*
5cfe0	11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65	...perm@.@.@.@....J....namespace
5d000	12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
5d020	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
5d040	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
5d060	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
5d080	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
5d0a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
5d0c0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.3:.transformer
5d0e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
5d100	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e	Layer/bert.encoder.layer.3.atten
5d120	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
5d140	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
5d160	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.3.attention.self:.
5d180	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5d1a0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61	g_bert.BertSdpaSelfAttention/tra
5d1c0	6e 73 70 6f 73 65 5f 31 32 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03	nspose_12:.aten.transpose.intJ..
5d1e0	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
5d200	12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
5d220	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
5d240	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
5d260	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
5d280	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
5d2a0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
5d2c0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
5d2e0	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
5d300	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
5d320	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5d340	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
5d360	61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72	aten.transpose.int']J....pkg.tor
5d380	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 20 3a	ch.onnx.fx_node.x%transpose_12.:
5d3a0	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=1].=.call_function[t
5d3c0	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69	arget=torch.ops.aten.transpose.i
5d3e0	6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 32 2c 20 31 2c 20 32 29 2c 20 6b 77 61	nt](args.=.(%view_12,.1,.2),.kwa
5d400	72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
5d420	65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
5d440	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20	coder',.'bert.encoder.layer.3',.
5d460	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27	'bert.encoder.layer.3.attention'
5d480	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.3.attentio
5d4a0	6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 32 27 5d 4a bc 09 0a 1a 70 6b 67	n.self',.'transpose_12']J....pkg
5d4c0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
5d4e0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
5d500	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
5d520	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
5d540	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
5d560	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
5d580	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
5d5a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
5d5c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
5d5e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
5d600	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
5d620	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
5d640	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
5d660	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
5d680	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
5d6a0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
5d6c0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
5d6e0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
5d700	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
5d720	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
5d740	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
5d760	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
5d780	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
5d7a0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
5d7c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
5d7e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
5d800	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
5d820	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
5d840	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
5d860	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
5d880	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
5d8a0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
5d8c0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
5d8e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20	modeling_bert.py",.line.363,.in.
5d900	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74	forward.....self.query(hidden_st
5d920	61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74	ates).view(bsz,.-1,.self.num_att
5d940	65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61	ention_heads,.self.attention_hea
5d960	64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 98 16 0a 0c 6c 61 79 65	d_size).transpose(1,.2).....laye
5d980	72 5f 6e 6f 72 6d 5f 36 0a 07 76 61 6c 5f 32 39 33 12 07 76 61 6c 5f 32 39 34 1a 0f 6e 6f 64 65	r_norm_6..val_293..val_294..node
5d9a0	5f 4d 61 74 4d 75 6c 5f 32 38 30 22 06 4d 61 74 4d 75 6c 4a ae 04 0a 09 6e 61 6d 65 73 70 61 63	_MatMul_280".MatMulJ....namespac
5d9c0	65 12 a0 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
5d9e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
5da00	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
5da20	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
5da40	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
5da60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
5da80	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.3:.transforme
5daa0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
5dac0	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	tLayer/bert.encoder.layer.3.atte
5dae0	6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ntion:.transformers.models.bert.
5db00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74	modeling_bert.BertAttention/bert
5db20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a	.encoder.layer.3.attention.self:
5db40	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
5db60	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65	ng_bert.BertSdpaSelfAttention/be
5db80	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.3.attention.sel
5dba0	66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c	f.key:.torch.nn.modules.linear.L
5dbc0	69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 31 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	inear/linear_19:.aten.linear.def
5dbe0	61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
5dc00	65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
5dc20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
5dc40	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
5dc60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
5dc80	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
5dca0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
5dcc0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
5dce0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
5dd00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
5dd20	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
5dd40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
5dd60	69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c	ion',.'torch.nn.modules.linear.L
5dd80	69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4	inear',.'aten.linear.default']J.
5dda0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e	...pkg.torch.onnx.fx_node...%lin
5ddc0	65 61 72 5f 31 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	ear_19.:.[num_users=1].=.call_fu
5dde0	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e	nction[target=torch.ops.aten.lin
5de00	65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d	ear.default](args.=.(%layer_norm
5de20	5f 36 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65	_6,.%p_bert_encoder_layer_3_atte
5de40	6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65	ntion_self_key_weight,.%p_bert_e
5de60	6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65	ncoder_layer_3_attention_self_ke
5de80	79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b 67 2e 74 6f	y_bias),.kwargs.=.{})J....pkg.to
5dea0	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
5dec0	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
5dee0	72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.3',.'bert.encoder.layer.
5df00	33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	3.attention',.'bert.encoder.laye
5df20	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	r.3.attention.self',.'bert.encod
5df40	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20	er.layer.3.attention.self.key',.
5df60	27 6c 69 6e 65 61 72 5f 31 39 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	'linear_19']J....pkg.torch.onnx.
5df80	73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
5dfa0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
5dfc0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
5dfe0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
5e000	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
5e020	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
5e040	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
5e060	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
5e080	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
5e0a0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
5e0c0	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
5e0e0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
5e100	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
5e120	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
5e140	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
5e160	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
5e180	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
5e1a0	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
5e1c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
5e1e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
5e200	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
5e220	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.558,.in.for
5e240	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20	ward.....self_attention_outputs.
5e260	3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	=.self.attention(...File."/home/
5e280	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
5e2a0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
5e2c0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
5e2e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20	modeling_bert.py",.line.488,.in.
5e300	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	forward.....self_outputs.=.self.
5e320	73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	self(...File."/home/hsiangniania
5e340	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
5e360	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
5e380	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
5e3a0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.387,.in.forward.....
5e3c0	73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20	self.key(current_states)...File.
5e3e0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
5e400	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
5e420	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c	site-packages/torch/nn/modules/l
5e440	69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	inear.py",.line.134,.in.forward.
5e460	20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e	....return.F.linear(input,.self.
5e480	77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a b6 16 0a 07 76 61 6c 5f 32 39 34 0a 2c	weight,.self.bias).....val_294.,
5e4a0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.3.attention.s
5e4c0	65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 31 39 1a 0e 6e 6f 64 65 5f 6c 69	elf.key.bias..linear_19..node_li
5e4e0	6e 65 61 72 5f 31 39 22 03 41 64 64 4a ae 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a0 04 3a 20 74	near_19".AddJ....namespace...:.t
5e500	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
5e520	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
5e540	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
5e560	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
5e580	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
5e5a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
5e5c0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.3:.transformers.mode
5e5e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
5e600	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.3.attention:.
5e620	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5e640	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
5e660	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.3.attention.self:.transf
5e680	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
5e6a0	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	.BertSdpaSelfAttention/bert.enco
5e6c0	64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a 20	der.layer.3.attention.self.key:.
5e6e0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c	torch.nn.modules.linear.Linear/l
5e700	69 6e 65 61 72 5f 31 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03	inear_19:.aten.linear.defaultJ..
5e720	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
5e740	12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
5e760	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
5e780	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
5e7a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
5e7c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
5e7e0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
5e800	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
5e820	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
5e840	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
5e860	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5e880	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
5e8a0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c	torch.nn.modules.linear.Linear',
5e8c0	20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e	.'aten.linear.default']J....pkg.
5e8e0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 31 39 20	torch.onnx.fx_node...%linear_19.
5e900	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
5e920	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	target=torch.ops.aten.linear.def
5e940	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 2c 20 25 70 5f	ault](args.=.(%layer_norm_6,.%p_
5e960	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73	bert_encoder_layer_3_attention_s
5e980	65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	elf_key_weight,.%p_bert_encoder_
5e9a0	6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29	layer_3_attention_self_key_bias)
5e9c0	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
5e9e0	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
5ea00	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
5ea20	2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e	.3',.'bert.encoder.layer.3.atten
5ea40	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74	tion',.'bert.encoder.layer.3.att
5ea60	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ention.self',.'bert.encoder.laye
5ea80	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72	r.3.attention.self.key',.'linear
5eaa0	5f 31 39 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	_19']J....pkg.torch.onnx.stack_t
5eac0	72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
5eae0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
5eb00	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
5eb20	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
5eb40	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
5eb60	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
5eb80	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
5eba0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
5ebc0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
5ebe0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
5ec00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
5ec20	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
5ec40	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
5ec60	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
5ec80	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
5eca0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
5ecc0	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
5ece0	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
5ed00	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
5ed20	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
5ed40	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
5ed60	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
5ed80	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
5eda0	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
5edc0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
5ede0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
5ee00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
5ee20	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
5ee40	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
5ee60	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
5ee80	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
5eea0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
5eec0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
5eee0	6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65	line.387,.in.forward.....self.ke
5ef00	79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	y(current_states)...File."/home/
5ef20	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
5ef40	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
5ef60	63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70	ckages/torch/nn/modules/linear.p
5ef80	79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74	y",.line.134,.in.forward.....ret
5efa0	75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c	urn.F.linear(input,.self.weight,
5efc0	20 73 65 6c 66 2e 62 69 61 73 29 0a ab 13 0a 09 6c 69 6e 65 61 72 5f 31 39 0a 06 76 61 6c 5f 36	.self.bias).....linear_19..val_6
5efe0	38 12 07 76 69 65 77 5f 31 33 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 31 33 22 07 52 65 73 68 61 70	8..view_13..node_view_13".Reshap
5f000	65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63	e*...allowzero.....J....namespac
5f020	65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
5f040	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
5f060	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
5f080	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
5f0a0	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
5f0c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
5f0e0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.3:.transforme
5f100	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
5f120	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	tLayer/bert.encoder.layer.3.atte
5f140	6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ntion:.transformers.models.bert.
5f160	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74	modeling_bert.BertAttention/bert
5f180	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a	.encoder.layer.3.attention.self:
5f1a0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
5f1c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69	ng_bert.BertSdpaSelfAttention/vi
5f1e0	65 77 5f 31 33 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67	ew_13:.aten.view.defaultJ....pkg
5f200	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27	.torch.onnx.class_hierarchy...['
5f220	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
5f240	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
5f260	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
5f280	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertModel',.'transfo
5f2a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
5f2c0	42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	BertEncoder',.'transformers.mode
5f2e0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27	ls.bert.modeling_bert.BertLayer'
5f300	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
5f320	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	ling_bert.BertAttention',.'trans
5f340	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
5f360	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e	t.BertSdpaSelfAttention',.'aten.
5f380	76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	view.default']J....pkg.torch.onn
5f3a0	78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 31 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72	x.fx_node...%view_13.:.[num_user
5f3c0	73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63	s=1].=.call_function[target=torc
5f3e0	68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	h.ops.aten.view.default](args.=.
5f400	28 25 6c 69 6e 65 61 72 5f 31 39 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20	(%linear_19,.[%sym_size_int_45,.
5f420	2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b	-1,.8,.32]),.kwargs.=.{})J....pk
5f440	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
5f460	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
5f480	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.3',.'bert.encoder.la
5f4a0	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.3.attention',.'bert.encoder.
5f4c0	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 31	layer.3.attention.self',.'view_1
5f4e0	33 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	3']J....pkg.torch.onnx.stack_tra
5f500	63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
5f520	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
5f540	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
5f560	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
5f580	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
5f5a0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
5f5c0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
5f5e0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
5f600	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
5f620	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
5f640	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
5f660	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
5f680	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
5f6a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
5f6c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
5f6e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
5f700	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
5f720	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
5f740	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
5f760	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
5f780	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
5f7a0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.558,.in.forward.....
5f7c0	73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74	self_attention_outputs.=.self.at
5f7e0	74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	tention(...File."/home/hsiangnia
5f800	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
5f820	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
5f840	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
5f860	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.488,.in.forward..
5f880	20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46	...self_outputs.=.self.self(...F
5f8a0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
5f8c0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
5f8e0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
5f900	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
5f920	6e 65 20 33 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a	ne.388,.in.forward......view(bsz
5f940	2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20	,.-1,.self.num_attention_heads,.
5f960	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a f2 12 0a 07 76 69	self.attention_head_size).....vi
5f980	65 77 5f 31 33 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31 33 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70	ew_13..transpose_13..node_transp
5f9a0	6f 73 65 5f 31 33 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40	ose_13".Transpose*...perm@.@.@.@
5f9c0	03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d	....J....namespace...:.transform
5f9e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
5fa00	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74	rtForTokenClassification/bert:.t
5fa20	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
5fa40	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72	_bert.BertModel/bert.encoder:.tr
5fa60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
5fa80	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	bert.BertEncoder/bert.encoder.la
5faa0	79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer.3:.transformers.models.bert.
5fac0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertLayer/bert.enc
5fae0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72	oder.layer.3.attention:.transfor
5fb00	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
5fb20	65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ertAttention/bert.encoder.layer.
5fb40	33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	3.attention.self:.transformers.m
5fb60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
5fb80	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 33 3a 20 61 74 65	aSelfAttention/transpose_13:.ate
5fba0	6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	n.transpose.intJ....pkg.torch.on
5fbc0	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
5fbe0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
5fc00	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
5fc20	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
5fc40	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
5fc60	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
5fc80	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
5fca0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
5fcc0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
5fce0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
5fd00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
5fd20	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65	aSelfAttention',.'aten.transpose
5fd40	2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	.int']J....pkg.torch.onnx.fx_nod
5fd60	65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	e.x%transpose_13.:.[num_users=1]
5fd80	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
5fda0	73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76	s.aten.transpose.int](args.=.(%v
5fdc0	69 65 77 5f 31 33 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a	iew_13,.1,.2),.kwargs.=.{})J....
5fde0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
5fe00	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
5fe20	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.3',.'bert.encoder.
5fe40	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.3.attention',.'bert.encode
5fe60	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e	r.layer.3.attention.self',.'tran
5fe80	73 70 6f 73 65 5f 31 33 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	spose_13']J....pkg.torch.onnx.st
5fea0	61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
5fec0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
5fee0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
5ff00	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
5ff20	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
5ff40	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
5ff60	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
5ff80	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
5ffa0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
5ffc0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
5ffe0	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
60000	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
60020	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
60040	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
60060	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
60080	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
600a0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
600c0	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
600e0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
60100	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
60120	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
60140	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
60160	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
60180	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
601a0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
601c0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
601e0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
60200	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
60220	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
60240	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
60260	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
60280	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
602a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
602c0	70 79 22 2c 20 6c 69 6e 65 20 33 38 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74	py",.line.389,.in.forward......t
602e0	72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a a2 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 0a	ranspose(1,.2).....layer_norm_6.
60300	07 76 61 6c 5f 33 30 31 12 07 76 61 6c 5f 33 30 32 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 32	.val_301..val_302..node_MatMul_2
60320	38 38 22 06 4d 61 74 4d 75 6c 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61	88".MatMulJ....namespace...:.tra
60340	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
60360	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
60380	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
603a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
603c0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
603e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
60400	64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.3:.transformers.models
60420	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
60440	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.3.attention:.tr
60460	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
60480	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
604a0	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.3.attention.self:.transfor
604c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
604e0	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ertSdpaSelfAttention/bert.encode
60500	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20	r.layer.3.attention.self.value:.
60520	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c	torch.nn.modules.linear.Linear/l
60540	69 6e 65 61 72 5f 32 30 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03	inear_20:.aten.linear.defaultJ..
60560	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
60580	12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
605a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
605c0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
605e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
60600	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
60620	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
60640	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
60660	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
60680	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
606a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
606c0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
606e0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c	torch.nn.modules.linear.Linear',
60700	20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e	.'aten.linear.default']J....pkg.
60720	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 32 30 20	torch.onnx.fx_node...%linear_20.
60740	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
60760	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	target=torch.ops.aten.linear.def
60780	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 2c 20 25 70 5f	ault](args.=.(%layer_norm_6,.%p_
607a0	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73	bert_encoder_layer_3_attention_s
607c0	65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	elf_value_weight,.%p_bert_encode
607e0	72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62	r_layer_3_attention_self_value_b
60800	69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ias),.kwargs.=.{})J....pkg.torch
60820	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
60840	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
60860	61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61	ayer.3',.'bert.encoder.layer.3.a
60880	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	ttention',.'bert.encoder.layer.3
608a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.attention.self',.'bert.encoder.
608c0	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27	layer.3.attention.self.value',.'
608e0	6c 69 6e 65 61 72 5f 32 30 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	linear_20']J....pkg.torch.onnx.s
60900	74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
60920	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
60940	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
60960	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
60980	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
609a0	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
609c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
609e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
60a00	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
60a20	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
60a40	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
60a60	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
60a80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
60aa0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
60ac0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
60ae0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
60b00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
60b20	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
60b40	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
60b60	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
60b80	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
60ba0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
60bc0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
60be0	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
60c00	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
60c20	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
60c40	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
60c60	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
60c80	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
60ca0	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
60cc0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
60ce0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
60d00	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
60d20	2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.392,.in.forward.....s
60d40	65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	elf.value(current_states)...File
60d60	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
60d80	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
60da0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
60dc0	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
60de0	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
60e00	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a c2 16 0a 07 76 61 6c 5f 33 30 32 0a	.weight,.self.bias).....val_302.
60e20	2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	.bert.encoder.layer.3.attention.
60e40	73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 32 30 1a 0e 6e 6f 64 65	self.value.bias..linear_20..node
60e60	5f 6c 69 6e 65 61 72 5f 32 30 22 03 41 64 64 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04	_linear_20".AddJ....namespace...
60e80	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
60ea0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
60ec0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
60ee0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
60f00	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
60f20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
60f40	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.3:.transformers.m
60f60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
60f80	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.3.attentio
60fa0	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
60fc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
60fe0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.3.attention.self:.tra
61000	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
61020	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65	ert.BertSdpaSelfAttention/bert.e
61040	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61	ncoder.layer.3.attention.self.va
61060	6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	lue:.torch.nn.modules.linear.Lin
61080	65 61 72 2f 6c 69 6e 65 61 72 5f 32 30 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	ear/linear_20:.aten.linear.defau
610a0	6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
610c0	61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
610e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
61100	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
61120	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
61140	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
61160	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
61180	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
611a0	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
611c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
611e0	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
61200	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
61220	6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	n',.'torch.nn.modules.linear.Lin
61240	65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a	ear',.'aten.linear.default']J...
61260	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61	.pkg.torch.onnx.fx_node...%linea
61280	72 5f 32 30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	r_20.:.[num_users=1].=.call_func
612a0	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61	tion[target=torch.ops.aten.linea
612c0	72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36	r.default](args.=.(%layer_norm_6
612e0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_3_attent
61300	69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65	ion_self_value_weight,.%p_bert_e
61320	6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61	ncoder_layer_3_attention_self_va
61340	6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e	lue_bias),.kwargs.=.{})J....pkg.
61360	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62	torch.onnx.name_scopes...['',.'b
61380	65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert',.'bert.encoder',.'bert.enco
613a0	64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	der.layer.3',.'bert.encoder.laye
613c0	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	r.3.attention',.'bert.encoder.la
613e0	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63	yer.3.attention.self',.'bert.enc
61400	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75	oder.layer.3.attention.self.valu
61420	65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 30 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	e',.'linear_20']J....pkg.torch.o
61440	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
61460	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
61480	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
614a0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
614c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
614e0	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
61500	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
61520	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
61540	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
61560	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
61580	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
615a0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
615c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
615e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
61600	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
61620	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
61640	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
61660	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
61680	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
616a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
616c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
616e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
61700	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
61720	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
61740	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
61760	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
61780	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
617a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
617c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
617e0	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
61800	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
61820	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
61840	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
61860	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.392,.in.forward.
61880	20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20	....self.value(current_states)..
618a0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
618c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
618e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64	n3.10/site-packages/torch/nn/mod
61900	75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f	ules/linear.py",.line.134,.in.fo
61920	72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c	rward.....return.F.linear(input,
61940	20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a ab 13 0a 09 6c 69 6e	.self.weight,.self.bias).....lin
61960	65 61 72 5f 32 30 0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77 5f 31 34 1a 0c 6e 6f 64 65 5f 76 69	ear_20..val_68..view_14..node_vi
61980	65 77 5f 31 34 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02	ew_14".Reshape*...allowzero.....
619a0	4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
619c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
619e0	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
61a00	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
61a20	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
61a40	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
61a60	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
61a80	33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	3:.transformers.models.bert.mode
61aa0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
61ac0	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.layer.3.attention:.transformers
61ae0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
61b00	74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	ttention/bert.encoder.layer.3.at
61b20	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tention.self:.transformers.model
61b40	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
61b60	66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 34 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65	fAttention/view_14:.aten.view.de
61b80	66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	faultJ....pkg.torch.onnx.class_h
61ba0	69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
61bc0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
61be0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
61c00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
61c20	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
61c40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
61c60	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
61c80	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
61ca0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
61cc0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
61ce0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
61d00	74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16	tion',.'aten.view.default']J....
61d20	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 31	pkg.torch.onnx.fx_node...%view_1
61d40	34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	4.:.[num_users=1].=.call_functio
61d60	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66	n[target=torch.ops.aten.view.def
61d80	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 30 2c 20 5b 25 73 79 6d 5f	ault](args.=.(%linear_20,.[%sym_
61da0	73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73	size_int_45,.-1,.8,.32]),.kwargs
61dc0	20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73	.=.{})J....pkg.torch.onnx.name_s
61de0	63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	copes...['',.'bert',.'bert.encod
61e00	65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65	er',.'bert.encoder.layer.3',.'be
61e20	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27	rt.encoder.layer.3.attention',.'
61e40	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.3.attention.s
61e60	65 6c 66 27 2c 20 27 76 69 65 77 5f 31 34 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	elf',.'view_14']J....pkg.torch.o
61e80	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
61ea0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
61ec0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
61ee0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
61f00	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
61f20	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
61f40	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
61f60	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
61f80	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
61fa0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
61fc0	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
61fe0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
62000	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
62020	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
62040	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
62060	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
62080	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
620a0	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
620c0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
620e0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
62100	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
62120	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
62140	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
62160	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
62180	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
621a0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
621c0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
621e0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
62200	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
62220	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
62240	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
62260	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
62280	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
622a0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.393,.in.forward.
622c0	20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65	.....view(bsz,.-1,.self.num_atte
622e0	6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64	ntion_heads,.self.attention_head
62300	5f 73 69 7a 65 29 0a f2 12 0a 07 76 69 65 77 5f 31 34 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31 34	_size).....view_14..transpose_14
62320	1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 34 22 09 54 72 61 6e 73 70 6f 73 65 2a 11	..node_transpose_14".Transpose*.
62340	0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12	..perm@.@.@.@....J....namespace.
62360	da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..:.transformers.models.bert.mod
62380	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
623a0	61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ation/bert:.transformers.models.
623c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72	bert.modeling_bert.BertModel/ber
623e0	74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	t.encoder:.transformers.models.b
62400	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65	ert.modeling_bert.BertEncoder/be
62420	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.encoder.layer.3:.transformers
62440	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
62460	61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74	ayer/bert.encoder.layer.3.attent
62480	69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ion:.transformers.models.bert.mo
624a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65	deling_bert.BertAttention/bert.e
624c0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74	ncoder.layer.3.attention.self:.t
624e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
62500	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e	_bert.BertSdpaSelfAttention/tran
62520	73 70 6f 73 65 5f 31 34 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a	spose_14:.aten.transpose.intJ...
62540	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
62560	f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
62580	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
625a0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
625c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
625e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
62600	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
62620	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
62640	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
62660	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
62680	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
626a0	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61	_bert.BertSdpaSelfAttention',.'a
626c0	74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63	ten.transpose.int']J....pkg.torc
626e0	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 20 3a 20	h.onnx.fx_node.x%transpose_14.:.
62700	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
62720	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e	rget=torch.ops.aten.transpose.in
62740	74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 34 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72	t](args.=.(%view_14,.1,.2),.kwar
62760	67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
62780	5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
627a0	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27	oder',.'bert.encoder.layer.3',.'
627c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c	bert.encoder.layer.3.attention',
627e0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.3.attention
62800	2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 34 27 5d 4a e1 08 0a 1a 70 6b 67 2e	.self',.'transpose_14']J....pkg.
62820	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
62840	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
62860	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
62880	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
628a0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
628c0	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
628e0	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
62900	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
62920	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
62940	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
62960	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
62980	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
629a0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
629c0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
629e0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
62a00	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
62a20	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
62a40	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
62a60	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
62a80	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
62aa0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
62ac0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
62ae0	35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69	558,.in.forward.....self_attenti
62b00	6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46	on_outputs.=.self.attention(...F
62b20	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
62b40	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
62b60	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
62b80	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
62ba0	6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70	ne.488,.in.forward.....self_outp
62bc0	75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.self(...File."/home/h
62be0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
62c00	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
62c20	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
62c40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 34 2c 20 69 6e 20 66	odeling_bert.py",.line.394,.in.f
62c60	6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a bc 14 0a 0c	orward......transpose(1,.2).....
62c80	74 72 61 6e 73 70 6f 73 65 5f 31 33 12 07 76 61 6c 5f 33 31 38 1a 0e 6e 6f 64 65 5f 53 68 61 70	transpose_13..val_318..node_Shap
62ca0	65 5f 33 30 34 22 05 53 68 61 70 65 2a 0c 0a 05 73 74 61 72 74 18 00 a0 01 02 4a 91 04 0a 09 6e	e_304".Shape*...start.....J....n
62cc0	61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
62ce0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
62d00	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
62d20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
62d40	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
62d60	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
62d80	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61	ncoder/bert.encoder.layer.3:.tra
62da0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
62dc0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
62de0	2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.3.attention:.transformers.model
62e00	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
62e20	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.3.attentio
62e40	6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n.self:.transformers.models.bert
62e60	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
62e80	74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	tion/scaled_dot_product_attentio
62ea0	6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n_3:.aten.scaled_dot_product_att
62ec0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	ention.defaultJ....pkg.torch.onn
62ee0	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
62f00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
62f20	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
62f40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
62f60	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
62f80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
62fa0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
62fc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
62fe0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
63000	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
63020	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
63040	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	SelfAttention',.'aten.scaled_dot
63060	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a	_product_attention.default']J...
63080	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65	.pkg.torch.onnx.fx_node...%scale
630a0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d	d_dot_product_attention_3.:.[num
630c0	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
630e0	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	=torch.ops.aten.scaled_dot_produ
63100	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74	ct_attention.default](args.=.(%t
63120	72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61	ranspose_12,.%transpose_13,.%tra
63140	6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73	nspose_14,.%masked_fill),.kwargs
63160	20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73	.=.{})J....pkg.torch.onnx.name_s
63180	63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	copes...['',.'bert',.'bert.encod
631a0	65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65	er',.'bert.encoder.layer.3',.'be
631c0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27	rt.encoder.layer.3.attention',.'
631e0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.3.attention.s
63200	65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	elf',.'scaled_dot_product_attent
63220	69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	ion_3']J....pkg.torch.onnx.stack
63240	5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
63260	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
63280	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
632a0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
632c0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
632e0	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
63300	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
63320	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
63340	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
63360	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30	bert/modeling_bert.py",.line.100
63380	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74	0,.in.forward.....encoder_output
633a0	73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.self.encoder(...File."/home/
633c0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
633e0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
63400	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
63420	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20	modeling_bert.py",.line.650,.in.
63440	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65	forward.....layer_outputs.=.laye
63460	72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	r_module(...File."/home/hsiangni
63480	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
634a0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
634c0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
634e0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.558,.in.forward.
63500	20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	....self_attention_outputs.=.sel
63520	66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	f.attention(...File."/home/hsian
63540	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
63560	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
63580	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
635a0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.488,.in.forwa
635c0	72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28	rd.....self_outputs.=.self.self(
635e0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
63600	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
63620	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
63640	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
63660	2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f	,.line.413,.in.forward.....attn_
63680	6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61	output.=.torch.nn.functional.sca
636a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b9 14 0a 07 76	led_dot_product_attention(.....v
636c0	61 6c 5f 33 31 38 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f 39 35 12 07 76 61 6c 5f 33 32 30 1a	al_318..val_65..val_95..val_320.
636e0	0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 33 30 36 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73	.node_Slice_306".SliceJ....names
63700	70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
63720	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
63740	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
63760	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
63780	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
637a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
637c0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.3:.transfo
637e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
63800	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61	BertLayer/bert.encoder.layer.3.a
63820	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
63840	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
63860	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
63880	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
638a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
638c0	2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a	/scaled_dot_product_attention_3:
638e0	20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	.aten.scaled_dot_product_attenti
63900	6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	on.defaultJ....pkg.torch.onnx.cl
63920	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
63940	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
63960	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
63980	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
639a0	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
639c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
639e0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
63a00	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
63a20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
63a40	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
63a60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
63a80	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	Attention',.'aten.scaled_dot_pro
63aa0	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67	duct_attention.default']J....pkg
63ac0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f	.torch.onnx.fx_node...%scaled_do
63ae0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65	t_product_attention_3.:.[num_use
63b00	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
63b20	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ch.ops.aten.scaled_dot_product_a
63b40	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73	ttention.default](args.=.(%trans
63b60	70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f	pose_12,.%transpose_13,.%transpo
63b80	73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	se_14,.%masked_fill),.kwargs.=.{
63ba0	7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65	})J....pkg.torch.onnx.name_scope
63bc0	73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c	s...['',.'bert',.'bert.encoder',
63be0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65	.'bert.encoder.layer.3',.'bert.e
63c00	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74	ncoder.layer.3.attention',.'bert
63c20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27	.encoder.layer.3.attention.self'
63c40	2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.'scaled_dot_product_attention_
63c60	33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	3']J....pkg.torch.onnx.stack_tra
63c80	63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
63ca0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
63cc0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
63ce0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
63d00	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
63d20	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
63d40	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
63d60	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
63d80	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
63da0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
63dc0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
63de0	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
63e00	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
63e20	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
63e40	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
63e60	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
63e80	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
63ea0	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
63ec0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
63ee0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
63f00	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
63f20	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.558,.in.forward.....
63f40	73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74	self_attention_outputs.=.self.at
63f60	74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	tention(...File."/home/hsiangnia
63f80	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
63fa0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
63fc0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
63fe0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.488,.in.forward..
64000	20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46	...self_outputs.=.self.self(...F
64020	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
64040	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
64060	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
64080	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
640a0	6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70	ne.413,.in.forward.....attn_outp
640c0	75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f	ut.=.torch.nn.functional.scaled_
640e0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b9 14 0a 07 76 61 6c 5f 33	dot_product_attention(.....val_3
64100	31 38 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f 36 35 12 07 76 61 6c 5f 33 32 31 1a 0e 6e 6f 64	18..val_98..val_65..val_321..nod
64120	65 5f 53 6c 69 63 65 5f 33 30 37 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65	e_Slice_307".SliceJ....namespace
64140	12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
64160	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
64180	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
641a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
641c0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
641e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
64200	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.3:.transformer
64220	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
64240	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e	Layer/bert.encoder.layer.3.atten
64260	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
64280	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
642a0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.3.attention.self:.
642c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
642e0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61	g_bert.BertSdpaSelfAttention/sca
64300	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65	led_dot_product_attention_3:.ate
64320	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
64340	65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	efaultJ....pkg.torch.onnx.class_
64360	68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
64380	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
643a0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
643c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
643e0	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
64400	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
64420	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
64440	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
64460	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
64480	6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ntion',.'transformers.models.ber
644a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
644c0	6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion',.'aten.scaled_dot_product
644e0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72	_attention.default']J....pkg.tor
64500	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	ch.onnx.fx_node...%scaled_dot_pr
64520	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	oduct_attention_3.:.[num_users=1
64540	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
64560	70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	ps.aten.scaled_dot_product_atten
64580	74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65	tion.default](args.=.(%transpose
645a0	5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31	_12,.%transpose_13,.%transpose_1
645c0	34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be	4,.%masked_fill),.kwargs.=.{})J.
645e0	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01	...pkg.torch.onnx.name_scopes...
64600	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
64620	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.3',.'bert.encod
64640	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.3.attention',.'bert.enc
64660	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73	oder.layer.3.attention.self',.'s
64680	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a	caled_dot_product_attention_3']J
646a0	90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1	....pkg.torch.onnx.stack_trace..
646c0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
646e0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
64700	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
64720	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
64740	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
64760	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
64780	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
647a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
647c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
647e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
64800	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
64820	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
64840	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
64860	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
64880	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
648a0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
648c0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
648e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
64900	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
64920	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
64940	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
64960	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
64980	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
649a0	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
649c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
649e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
64a00	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
64a20	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
64a40	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
64a60	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
64a80	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
64aa0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
64ac0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
64ae0	31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d	13,.in.forward.....attn_output.=
64b00	20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	.torch.nn.functional.scaled_dot_
64b20	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba 14 0a 07 76 61 6c 5f 33 31 38 0a 07	product_attention(.....val_318..
64b40	76 61 6c 5f 31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76 61 6c 5f 33 32 33 1a 0e 6e 6f 64 65 5f 53	val_100..val_98..val_323..node_S
64b60	6c 69 63 65 5f 33 30 39 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04	lice_309".SliceJ....namespace...
64b80	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
64ba0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
64bc0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
64be0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
64c00	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
64c20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
64c40	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.3:.transformers.m
64c60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
64c80	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.3.attentio
64ca0	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
64cc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
64ce0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.3.attention.self:.tra
64d00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
64d20	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64	ert.BertSdpaSelfAttention/scaled
64d40	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73	_dot_product_attention_3:.aten.s
64d60	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
64d80	75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
64da0	72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
64dc0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
64de0	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
64e00	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
64e20	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
64e40	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
64e60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
64e80	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
64ea0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
64ec0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
64ee0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
64f00	6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on',.'aten.scaled_dot_product_at
64f20	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	tention.default']J....pkg.torch.
64f40	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	onnx.fx_node...%scaled_dot_produ
64f60	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	ct_attention_3.:.[num_users=1].=
64f80	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
64fa0	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
64fc0	6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32	n.default](args.=.(%transpose_12
64fe0	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20	,.%transpose_13,.%transpose_14,.
65000	25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a	%masked_fill),.kwargs.=.{})J....
65020	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
65040	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
65060	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.3',.'bert.encoder.
65080	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.3.attention',.'bert.encode
650a0	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c	r.layer.3.attention.self',.'scal
650c0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a	ed_dot_product_attention_3']J...
650e0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69	.pkg.torch.onnx.stack_trace...Fi
65100	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
65120	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
65140	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
65160	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
65180	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
651a0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
651c0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
651e0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
65200	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
65220	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
65240	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
65260	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
65280	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
652a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
652c0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
652e0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
65300	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
65320	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
65340	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
65360	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
65380	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
653a0	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
653c0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
653e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
65400	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
65420	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
65440	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
65460	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
65480	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
654a0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
654c0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
654e0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
65500	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c	ert/modeling_bert.py",.line.413,
65520	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f	.in.forward.....attn_output.=.to
65540	72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	rch.nn.functional.scaled_dot_pro
65560	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c9 14 0a 06 76 61 6c 5f 36 35 0a 07 76 61 6c 5f	duct_attention(.....val_65..val_
65580	33 32 31 0a 07 76 61 6c 5f 33 32 30 12 07 76 61 6c 5f 33 32 35 1a 0f 6e 6f 64 65 5f 43 6f 6e 63	321..val_320..val_325..node_Conc
655a0	61 74 5f 33 31 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a 91 04 0a 09	at_311".Concat*...axis.....J....
655c0	6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
655e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
65600	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
65620	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
65640	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
65660	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
65680	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72	Encoder/bert.encoder.layer.3:.tr
656a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
656c0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
656e0	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	r.3.attention:.transformers.mode
65700	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
65720	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.3.attenti
65740	6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on.self:.transformers.models.ber
65760	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
65780	6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ntion/scaled_dot_product_attenti
657a0	6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on_3:.aten.scaled_dot_product_at
657c0	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	tention.defaultJ....pkg.torch.on
657e0	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
65800	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
65820	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
65840	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
65860	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
65880	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
658a0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
658c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
658e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
65900	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
65920	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
65940	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	aSelfAttention',.'aten.scaled_do
65960	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01	t_product_attention.default']J..
65980	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c	..pkg.torch.onnx.fx_node...%scal
659a0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75	ed_dot_product_attention_3.:.[nu
659c0	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
659e0	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	t=torch.ops.aten.scaled_dot_prod
65a00	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	uct_attention.default](args.=.(%
65a20	74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72	transpose_12,.%transpose_13,.%tr
65a40	61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	anspose_14,.%masked_fill),.kwarg
65a60	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
65a80	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
65aa0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62	der',.'bert.encoder.layer.3',.'b
65ac0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.3.attention',.
65ae0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.3.attention.
65b00	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
65b20	74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_3']J....pkg.torch.onnx.stac
65b40	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
65b60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
65b80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
65ba0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
65bc0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
65be0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
65c00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
65c20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
65c40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
65c60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
65c80	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
65ca0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
65cc0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
65ce0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
65d00	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
65d20	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
65d40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
65d60	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
65d80	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
65da0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
65dc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
65de0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
65e00	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
65e20	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
65e40	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
65e60	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
65e80	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
65ea0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
65ec0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
65ee0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
65f00	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
65f20	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
65f40	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
65f60	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
65f80	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
65fa0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a cd 14 0a 0c	aled_dot_product_attention(.....
65fc0	74 72 61 6e 73 70 6f 73 65 5f 31 33 0a 07 76 61 6c 5f 33 32 35 12 07 76 61 6c 5f 33 32 36 1a 10	transpose_13..val_325..val_326..
65fe0	6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 33 31 32 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c	node_Reshape_312".Reshape*...all
66000	6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72	owzero.....J....namespace...:.tr
66020	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
66040	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f	bert.BertForTokenClassification/
66060	62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	bert:.transformers.models.bert.m
66080	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertModel/bert.enco
660a0	64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	der:.transformers.models.bert.mo
660c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63	deling_bert.BertEncoder/bert.enc
660e0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	oder.layer.3:.transformers.model
66100	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62	s.bert.modeling_bert.BertLayer/b
66120	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74	ert.encoder.layer.3.attention:.t
66140	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
66160	5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	_bert.BertAttention/bert.encoder
66180	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f	.layer.3.attention.self:.transfo
661a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
661c0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74	BertSdpaSelfAttention/scaled_dot
661e0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65	_product_attention_3:.aten.scale
66200	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a	d_dot_product_attention.defaultJ
66220	ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
66240	68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
66260	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
66280	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
662a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
662c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
662e0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
66300	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
66320	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
66340	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
66360	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
66380	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
663a0	20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	.'aten.scaled_dot_product_attent
663c0	69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ion.default']J....pkg.torch.onnx
663e0	2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.fx_node...%scaled_dot_product_a
66400	74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	ttention_3.:.[num_users=1].=.cal
66420	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
66440	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
66460	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74	fault](args.=.(%transpose_12,.%t
66480	72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73	ranspose_13,.%transpose_14,.%mas
664a0	6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e	ked_fill),.kwargs.=.{})J....pkg.
664c0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62	torch.onnx.name_scopes...['',.'b
664e0	65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert',.'bert.encoder',.'bert.enco
66500	64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	der.layer.3',.'bert.encoder.laye
66520	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	r.3.attention',.'bert.encoder.la
66540	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64	yer.3.attention.self',.'scaled_d
66560	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67	ot_product_attention_3']J....pkg
66580	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
665a0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
665c0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
665e0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
66600	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
66620	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
66640	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
66660	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
66680	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
666a0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
666c0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
666e0	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
66700	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
66720	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
66740	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
66760	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
66780	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
667a0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
667c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
667e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
66800	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
66820	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
66840	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
66860	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
66880	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
668a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
668c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
668e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
66900	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
66920	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
66940	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
66960	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
66980	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
669a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20	modeling_bert.py",.line.413,.in.
669c0	66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e	forward.....attn_output.=.torch.
669e0	6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	nn.functional.scaled_dot_product
66a00	5f 61 74 74 65 6e 74 69 6f 6e 28 0a c2 14 0a 07 76 61 6c 5f 33 32 36 12 07 76 61 6c 5f 33 32 37	_attention(.....val_326..val_327
66a20	1a 12 6e 6f 64 65 5f 54 72 61 6e 73 70 6f 73 65 5f 33 31 33 22 09 54 72 61 6e 73 70 6f 73 65 2a	..node_Transpose_313".Transpose*
66a40	0f 0a 04 70 65 72 6d 40 00 40 02 40 01 a0 01 07 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83	...perm@.@.@....J....namespace..
66a60	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
66a80	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
66aa0	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
66ac0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
66ae0	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
66b00	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
66b20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.3:.transformers.
66b40	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
66b60	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.3.attenti
66b80	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
66ba0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
66bc0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.3.attention.self:.tr
66be0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
66c00	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65	bert.BertSdpaSelfAttention/scale
66c20	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e	d_dot_product_attention_3:.aten.
66c40	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
66c60	61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
66c80	65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
66ca0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
66cc0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
66ce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
66d00	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
66d20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
66d40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
66d60	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
66d80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
66da0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
66dc0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
66de0	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion',.'aten.scaled_dot_product_a
66e00	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ttention.default']J....pkg.torch
66e20	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	.onnx.fx_node...%scaled_dot_prod
66e40	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	uct_attention_3.:.[num_users=1].
66e60	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
66e80	2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	.aten.scaled_dot_product_attenti
66ea0	6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31	on.default](args.=.(%transpose_1
66ec0	32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c	2,.%transpose_13,.%transpose_14,
66ee0	20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a	.%masked_fill),.kwargs.=.{})J...
66f00	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27	.pkg.torch.onnx.name_scopes...['
66f20	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
66f40	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.3',.'bert.encoder
66f60	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.3.attention',.'bert.encod
66f80	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61	er.layer.3.attention.self',.'sca
66fa0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09	led_dot_product_attention_3']J..
66fc0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46	..pkg.torch.onnx.stack_trace...F
66fe0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
67000	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
67020	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
67040	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
67060	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
67080	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
670a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
670c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
670e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
67100	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
67120	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
67140	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
67160	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
67180	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
671a0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
671c0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
671e0	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
67200	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
67220	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
67240	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
67260	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
67280	20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61	.line.558,.in.forward.....self_a
672a0	74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f	ttention_outputs.=.self.attentio
672c0	6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	n(...File."/home/hsiangnianian/g
672e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
67300	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
67320	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
67340	79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.488,.in.forward.....sel
67360	66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f	f_outputs.=.self.self(...File."/
67380	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
673a0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
673c0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
673e0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33	bert/modeling_bert.py",.line.413
67400	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74	,.in.forward.....attn_output.=.t
67420	6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	orch.nn.functional.scaled_dot_pr
67440	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ca 14 0a 07 76 61 6c 5f 33 32 33 0a 07 76 61	oduct_attention(.....val_323..va
67460	6c 5f 33 32 30 0a 07 76 61 6c 5f 33 32 31 12 07 76 61 6c 5f 33 32 38 1a 0f 6e 6f 64 65 5f 43 6f	l_320..val_321..val_328..node_Co
67480	6e 63 61 74 5f 33 31 34 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00 a0 01 02 4a 91 04	ncat_314".Concat*...axis.....J..
674a0	0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
674c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
674e0	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
67500	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
67520	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
67540	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
67560	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20	rtEncoder/bert.encoder.layer.3:.
67580	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
675a0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
675c0	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.3.attention:.transformers.mo
675e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
67600	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e	ntion/bert.encoder.layer.3.atten
67620	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
67640	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
67660	74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	tention/scaled_dot_product_atten
67680	74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tion_3:.aten.scaled_dot_product_
676a0	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e	attention.defaultJ....pkg.torch.
676c0	6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f	onnx.class_hierarchy...['transfo
676e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
67700	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72	BertForTokenClassification',.'tr
67720	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
67740	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertModel',.'transformers.m
67760	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
67780	6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	oder',.'transformers.models.bert
677a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e	.modeling_bert.BertLayer',.'tran
677c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
677e0	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.BertAttention',.'transformers
67800	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
67820	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f	dpaSelfAttention',.'aten.scaled_
67840	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a	dot_product_attention.default']J
67860	e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63	....pkg.torch.onnx.fx_node...%sc
67880	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b	aled_dot_product_attention_3.:.[
678a0	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
678c0	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	get=torch.ops.aten.scaled_dot_pr
678e0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	oduct_attention.default](args.=.
67900	28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25	(%transpose_12,.%transpose_13,.%
67920	74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61	transpose_14,.%masked_fill),.kwa
67940	72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
67960	65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
67980	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20	coder',.'bert.encoder.layer.3',.
679a0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27	'bert.encoder.layer.3.attention'
679c0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.3.attentio
679e0	6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n.self',.'scaled_dot_product_att
67a00	65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	ention_3']J....pkg.torch.onnx.st
67a20	61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
67a40	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
67a60	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
67a80	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
67aa0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
67ac0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
67ae0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
67b00	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
67b20	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
67b40	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
67b60	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
67b80	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
67ba0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
67bc0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
67be0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
67c00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
67c20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
67c40	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
67c60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
67c80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
67ca0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
67cc0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
67ce0	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
67d00	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
67d20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
67d40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
67d60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
67d80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
67da0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
67dc0	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
67de0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
67e00	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
67e20	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
67e40	70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74	py",.line.413,.in.forward.....at
67e60	74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e	tn_output.=.torch.nn.functional.
67e80	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c8 14	scaled_dot_product_attention(...
67ea0	0a 07 76 61 6c 5f 33 32 37 0a 07 76 61 6c 5f 33 32 38 12 07 76 61 6c 5f 33 32 39 1a 10 6e 6f 64	..val_327..val_328..val_329..nod
67ec0	65 5f 52 65 73 68 61 70 65 5f 33 31 35 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a	e_Reshape_315".Reshape*...allowz
67ee0	65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73	ero.....J....namespace...:.trans
67f00	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
67f20	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
67f40	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
67f60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
67f80	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
67fa0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
67fc0	72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.3:.transformers.models.b
67fe0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
68000	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e	.encoder.layer.3.attention:.tran
68020	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
68040	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	rt.BertAttention/bert.encoder.la
68060	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65	yer.3.attention.self:.transforme
68080	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
680a0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	tSdpaSelfAttention/scaled_dot_pr
680c0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	oduct_attention_3:.aten.scaled_d
680e0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a	ot_product_attention.defaultJ...
68100	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
68120	88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
68140	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
68160	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
68180	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
681a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
681c0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
681e0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
68200	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
68220	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
68240	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
68260	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61	_bert.BertSdpaSelfAttention',.'a
68280	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
682a0	2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
682c0	5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	_node...%scaled_dot_product_atte
682e0	6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	ntion_3.:.[num_users=1].=.call_f
68300	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63	unction[target=torch.ops.aten.sc
68320	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
68340	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e	lt](args.=.(%transpose_12,.%tran
68360	73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64	spose_13,.%transpose_14,.%masked
68380	5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72	_fill),.kwargs.=.{})J....pkg.tor
683a0	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
683c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
683e0	2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	.layer.3',.'bert.encoder.layer.3
68400	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
68420	2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f	.3.attention.self',.'scaled_dot_
68440	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f	product_attention_3']J....pkg.to
68460	72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f	rch.onnx.stack_trace...File."/ho
68480	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
684a0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
684c0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
684e0	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c	rt/modeling_bert.py",.line.1676,
68500	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62	.in.forward.....outputs.=.self.b
68520	65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ert(...File."/home/hsiangnianian
68540	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
68560	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
68580	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
685a0	2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1000,.in.forward.....
685c0	65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a	encoder_outputs.=.self.encoder(.
685e0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
68600	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
68620	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
68640	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
68660	20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.650,.in.forward.....layer_
68680	6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22	outputs.=.layer_module(...File."
686a0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
686c0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
686e0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
68700	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35	/bert/modeling_bert.py",.line.55
68720	38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e	8,.in.forward.....self_attention
68740	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c	_outputs.=.self.attention(...Fil
68760	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
68780	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
687a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
687c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
687e0	20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74	.488,.in.forward.....self_output
68800	73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.self(...File."/home/hsi
68820	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
68840	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
68860	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
68880	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.413,.in.for
688a0	77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e	ward.....attn_output.=.torch.nn.
688c0	66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	functional.scaled_dot_product_at
688e0	74 65 6e 74 69 6f 6e 28 0a b3 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 32 0a 07 76 61 6c 5f 31	tention(.....transpose_12..val_1
68900	30 38 12 07 76 61 6c 5f 33 33 31 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 33 31 37 22 03 4d 75 6c 4a 91	08..val_331..node_Mul_317".MulJ.
68920	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
68940	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
68960	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
68980	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
689a0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
689c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
689e0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a	ertEncoder/bert.encoder.layer.3:
68a00	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
68a20	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
68a40	61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.3.attention:.transformers.m
68a60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
68a80	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	ention/bert.encoder.layer.3.atte
68aa0	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
68ac0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
68ae0	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
68b00	6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_3:.aten.scaled_dot_product
68b20	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
68b40	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
68b60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
68b80	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
68ba0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
68bc0	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
68be0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
68c00	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
68c20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
68c40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
68c60	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
68c80	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
68ca0	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
68cc0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
68ce0	4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73	J....pkg.torch.onnx.fx_node...%s
68d00	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20	caled_dot_product_attention_3.:.
68d20	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
68d40	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
68d60	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
68d80	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20	.(%transpose_12,.%transpose_13,.
68da0	25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	%transpose_14,.%masked_fill),.kw
68dc0	61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
68de0	6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
68e00	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c	ncoder',.'bert.encoder.layer.3',
68e20	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.3.attention
68e40	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.3.attenti
68e60	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
68e80	74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	tention_3']J....pkg.torch.onnx.s
68ea0	74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
68ec0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
68ee0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
68f00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
68f20	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
68f40	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
68f60	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
68f80	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
68fa0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
68fc0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
68fe0	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
69000	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
69020	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
69040	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
69060	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
69080	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
690a0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
690c0	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
690e0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
69100	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
69120	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
69140	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
69160	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
69180	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
691a0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
691c0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
691e0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
69200	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
69220	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
69240	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
69260	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
69280	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
692a0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
692c0	2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61	.py",.line.413,.in.forward.....a
692e0	74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c	ttn_output.=.torch.nn.functional
69300	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ae	.scaled_dot_product_attention(..
69320	14 0a 07 76 61 6c 5f 33 32 39 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 33 33 33 1a 0c 6e 6f	...val_329..val_108..val_333..no
69340	64 65 5f 4d 75 6c 5f 33 31 39 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04	de_Mul_319".MulJ....namespace...
69360	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
69380	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
693a0	69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion/bert:.transformers.models.be
693c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e	rt.modeling_bert.BertModel/bert.
693e0	65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	encoder:.transformers.models.ber
69400	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74	t.modeling_bert.BertEncoder/bert
69420	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.encoder.layer.3:.transformers.m
69440	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
69460	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f	er/bert.encoder.layer.3.attentio
69480	6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	n:.transformers.models.bert.mode
694a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63	ling_bert.BertAttention/bert.enc
694c0	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61	oder.layer.3.attention.self:.tra
694e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
69500	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64	ert.BertSdpaSelfAttention/scaled
69520	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73	_dot_product_attention_3:.aten.s
69540	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
69560	75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
69580	72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
695a0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
695c0	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
695e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
69600	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
69620	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
69640	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
69660	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
69680	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
696a0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
696c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
696e0	6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on',.'aten.scaled_dot_product_at
69700	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	tention.default']J....pkg.torch.
69720	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	onnx.fx_node...%scaled_dot_produ
69740	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d	ct_attention_3.:.[num_users=1].=
69760	20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e	.call_function[target=torch.ops.
69780	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
697a0	6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32	n.default](args.=.(%transpose_12
697c0	2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20	,.%transpose_13,.%transpose_14,.
697e0	25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a	%masked_fill),.kwargs.=.{})J....
69800	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
69820	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
69840	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.3',.'bert.encoder.
69860	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.3.attention',.'bert.encode
69880	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c	r.layer.3.attention.self',.'scal
698a0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a	ed_dot_product_attention_3']J...
698c0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69	.pkg.torch.onnx.stack_trace...Fi
698e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
69900	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
69920	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
69940	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
69960	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
69980	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
699a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
699c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
699e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
69a00	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
69a20	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
69a40	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
69a60	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
69a80	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
69aa0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
69ac0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
69ae0	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
69b00	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
69b20	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
69b40	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
69b60	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
69b80	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
69ba0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
69bc0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
69be0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
69c00	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
69c20	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
69c40	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
69c60	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
69c80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
69ca0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
69cc0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
69ce0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c	ert/modeling_bert.py",.line.413,
69d00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f	.in.forward.....attn_output.=.to
69d20	72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	rch.nn.functional.scaled_dot_pro
69d40	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b4 14 0a 07 76 61 6c 5f 33 33 31 0a 07 76 61 6c	duct_attention(.....val_331..val
69d60	5f 33 33 33 12 07 76 61 6c 5f 33 33 34 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33 32 30 22 06	_333..val_334..node_MatMul_320".
69d80	4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f	MatMulJ....namespace...:.transfo
69da0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
69dc0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
69de0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
69e00	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
69e20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
69e40	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
69e60	6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.3:.transformers.models.ber
69e80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
69ea0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.3.attention:.transf
69ec0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
69ee0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
69f00	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.3.attention.self:.transformers
69f20	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
69f40	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	dpaSelfAttention/scaled_dot_prod
69f60	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	uct_attention_3:.aten.scaled_dot
69f80	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70	_product_attention.defaultJ....p
69fa0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03	kg.torch.onnx.class_hierarchy...
69fc0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
69fe0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
6a000	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
6a020	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
6a040	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
6a060	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
6a080	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
6a0a0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
6a0c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
6a0e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6a100	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
6a120	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
6a140	65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
6a160	6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ode...%scaled_dot_product_attent
6a180	69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ion_3.:.[num_users=1].=.call_fun
6a1a0	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c	ction[target=torch.ops.aten.scal
6a1c0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
6a1e0	5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70	](args.=.(%transpose_12,.%transp
6a200	6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66	ose_13,.%transpose_14,.%masked_f
6a220	69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ill),.kwargs.=.{})J....pkg.torch
6a240	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
6a260	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
6a280	61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61	ayer.3',.'bert.encoder.layer.3.a
6a2a0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	ttention',.'bert.encoder.layer.3
6a2c0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	.attention.self',.'scaled_dot_pr
6a2e0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63	oduct_attention_3']J....pkg.torc
6a300	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
6a320	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
6a340	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
6a360	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
6a380	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
6a3a0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
6a3c0	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
6a3e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
6a400	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
6a420	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
6a440	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
6a460	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
6a480	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
6a4a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
6a4c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
6a4e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
6a500	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
6a520	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
6a540	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
6a560	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
6a580	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
6a5a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
6a5c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
6a5e0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
6a600	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
6a620	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
6a640	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
6a660	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
6a680	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
6a6a0	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
6a6c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
6a6e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
6a700	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
6a720	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.413,.in.forwa
6a740	72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75	rd.....attn_output.=.torch.nn.fu
6a760	6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	nctional.scaled_dot_product_atte
6a780	6e 74 69 6f 6e 28 0a b2 14 0a 07 76 61 6c 5f 33 33 34 0a 0b 6d 61 73 6b 65 64 5f 66 69 6c 6c 12	ntion(.....val_334..masked_fill.
6a7a0	07 76 61 6c 5f 33 33 35 1a 0c 6e 6f 64 65 5f 41 64 64 5f 33 32 31 22 03 41 64 64 4a 91 04 0a 09	.val_335..node_Add_321".AddJ....
6a7c0	6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
6a7e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
6a800	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
6a820	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6a840	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
6a860	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6a880	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72	Encoder/bert.encoder.layer.3:.tr
6a8a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
6a8c0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
6a8e0	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	r.3.attention:.transformers.mode
6a900	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
6a920	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.3.attenti
6a940	6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on.self:.transformers.models.ber
6a960	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
6a980	6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ntion/scaled_dot_product_attenti
6a9a0	6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on_3:.aten.scaled_dot_product_at
6a9c0	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	tention.defaultJ....pkg.torch.on
6a9e0	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
6aa00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
6aa20	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
6aa40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
6aa60	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
6aa80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
6aaa0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
6aac0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
6aae0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
6ab00	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
6ab20	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
6ab40	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	aSelfAttention',.'aten.scaled_do
6ab60	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01	t_product_attention.default']J..
6ab80	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c	..pkg.torch.onnx.fx_node...%scal
6aba0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75	ed_dot_product_attention_3.:.[nu
6abc0	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
6abe0	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	t=torch.ops.aten.scaled_dot_prod
6ac00	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	uct_attention.default](args.=.(%
6ac20	74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 33 2c 20 25 74 72	transpose_12,.%transpose_13,.%tr
6ac40	61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	anspose_14,.%masked_fill),.kwarg
6ac60	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
6ac80	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
6aca0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62	der',.'bert.encoder.layer.3',.'b
6acc0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.3.attention',.
6ace0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.3.attention.
6ad00	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
6ad20	74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_3']J....pkg.torch.onnx.stac
6ad40	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
6ad60	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
6ad80	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
6ada0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
6adc0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
6ade0	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
6ae00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
6ae20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
6ae40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
6ae60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
6ae80	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
6aea0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
6aec0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
6aee0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
6af00	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
6af20	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
6af40	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
6af60	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
6af80	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
6afa0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
6afc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
6afe0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
6b000	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
6b020	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
6b040	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
6b060	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
6b080	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
6b0a0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
6b0c0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
6b0e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
6b100	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
6b120	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
6b140	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
6b160	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
6b180	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
6b1a0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c3 14 0a 07	aled_dot_product_attention(.....
6b1c0	76 61 6c 5f 33 33 35 12 07 76 61 6c 5f 33 33 36 1a 10 6e 6f 64 65 5f 53 6f 66 74 6d 61 78 5f 33	val_335..val_336..node_Softmax_3
6b1e0	32 32 22 07 53 6f 66 74 6d 61 78 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01	22".Softmax*...axis.............
6b200	02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.J....namespace...:.transformers
6b220	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
6b240	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e	orTokenClassification/bert:.tran
6b260	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
6b280	72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73	rt.BertModel/bert.encoder:.trans
6b2a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
6b2c0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	t.BertEncoder/bert.encoder.layer
6b2e0	2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	.3:.transformers.models.bert.mod
6b300	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertLayer/bert.encode
6b320	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	r.layer.3.attention:.transformer
6b340	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6b360	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61	Attention/bert.encoder.layer.3.a
6b380	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ttention.self:.transformers.mode
6b3a0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
6b3c0	6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	lfAttention/scaled_dot_product_a
6b3e0	74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ttention_3:.aten.scaled_dot_prod
6b400	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f	uct_attention.defaultJ....pkg.to
6b420	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
6b440	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6b460	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
6b480	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
6b4a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertModel',.'transforme
6b4c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6b4e0	74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	tEncoder',.'transformers.models.
6b500	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27	bert.modeling_bert.BertLayer',.'
6b520	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
6b540	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	g_bert.BertAttention',.'transfor
6b560	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
6b580	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61	ertSdpaSelfAttention',.'aten.sca
6b5a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
6b5c0	74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc	t']J....pkg.torch.onnx.fx_node..
6b5e0	01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33	.%scaled_dot_product_attention_3
6b600	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
6b620	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	[target=torch.ops.aten.scaled_do
6b640	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	t_product_attention.default](arg
6b660	73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31	s.=.(%transpose_12,.%transpose_1
6b680	33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c	3,.%transpose_14,.%masked_fill),
6b6a0	20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.kwargs.=.{})J....pkg.torch.onnx
6b6c0	2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72	.name_scopes...['',.'bert',.'ber
6b6e0	74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.encoder',.'bert.encoder.layer.
6b700	33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74	3',.'bert.encoder.layer.3.attent
6b720	69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	ion',.'bert.encoder.layer.3.atte
6b740	6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion.self',.'scaled_dot_product
6b760	5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	_attention_3']J....pkg.torch.onn
6b780	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
6b7a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
6b7c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
6b7e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
6b800	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
6b820	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
6b840	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
6b860	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
6b880	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
6b8a0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
6b8c0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
6b8e0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
6b900	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
6b920	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
6b940	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
6b960	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
6b980	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
6b9a0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
6b9c0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
6b9e0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
6ba00	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
6ba20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
6ba40	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
6ba60	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
6ba80	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
6baa0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
6bac0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
6bae0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69	t/modeling_bert.py",.line.488,.i
6bb00	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	n.forward.....self_outputs.=.sel
6bb20	66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.self(...File."/home/hsiangnian
6bb40	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
6bb60	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
6bb80	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
6bba0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.413,.in.forward...
6bbc0	20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f	..attn_output.=.torch.nn.functio
6bbe0	6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	nal.scaled_dot_product_attention
6bc00	28 0a e4 14 0a 07 76 61 6c 5f 33 33 36 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 34 12 1e 73 63 61	(.....val_336..transpose_14..sca
6bc20	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 1a 23 6e 6f 64	led_dot_product_attention_3.#nod
6bc40	65 5f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33	e_scaled_dot_product_attention_3
6bc60	22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73	".MatMulJ....namespace...:.trans
6bc80	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
6bca0	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
6bcc0	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
6bce0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
6bd00	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
6bd20	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
6bd40	72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.3:.transformers.models.b
6bd60	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
6bd80	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e	.encoder.layer.3.attention:.tran
6bda0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
6bdc0	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	rt.BertAttention/bert.encoder.la
6bde0	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65	yer.3.attention.self:.transforme
6be00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6be20	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	tSdpaSelfAttention/scaled_dot_pr
6be40	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	oduct_attention_3:.aten.scaled_d
6be60	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a	ot_product_attention.defaultJ...
6be80	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
6bea0	88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
6bec0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
6bee0	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
6bf00	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
6bf20	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6bf40	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
6bf60	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
6bf80	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
6bfa0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74	modeling_bert.BertAttention',.'t
6bfc0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
6bfe0	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61	_bert.BertSdpaSelfAttention',.'a
6c000	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
6c020	2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
6c040	5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	_node...%scaled_dot_product_atte
6c060	6e 74 69 6f 6e 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	ntion_3.:.[num_users=1].=.call_f
6c080	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63	unction[target=torch.ops.aten.sc
6c0a0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
6c0c0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 32 2c 20 25 74 72 61 6e	lt](args.=.(%transpose_12,.%tran
6c0e0	73 70 6f 73 65 5f 31 33 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 34 2c 20 25 6d 61 73 6b 65 64	spose_13,.%transpose_14,.%masked
6c100	5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72	_fill),.kwargs.=.{})J....pkg.tor
6c120	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
6c140	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
6c160	2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	.layer.3',.'bert.encoder.layer.3
6c180	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
6c1a0	2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f	.3.attention.self',.'scaled_dot_
6c1c0	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 33 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f	product_attention_3']J....pkg.to
6c1e0	72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f	rch.onnx.stack_trace...File."/ho
6c200	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
6c220	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
6c240	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
6c260	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c	rt/modeling_bert.py",.line.1676,
6c280	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62	.in.forward.....outputs.=.self.b
6c2a0	65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ert(...File."/home/hsiangnianian
6c2c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
6c2e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
6c300	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
6c320	2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1000,.in.forward.....
6c340	65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a	encoder_outputs.=.self.encoder(.
6c360	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
6c380	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
6c3a0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
6c3c0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
6c3e0	20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.650,.in.forward.....layer_
6c400	6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22	outputs.=.layer_module(...File."
6c420	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
6c440	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
6c460	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
6c480	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35	/bert/modeling_bert.py",.line.55
6c4a0	38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e	8,.in.forward.....self_attention
6c4c0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c	_outputs.=.self.attention(...Fil
6c4e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
6c500	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
6c520	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
6c540	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
6c560	20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74	.488,.in.forward.....self_output
6c580	73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.self(...File."/home/hsi
6c5a0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
6c5c0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
6c5e0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
6c600	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.413,.in.for
6c620	77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e	ward.....attn_output.=.torch.nn.
6c640	66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	functional.scaled_dot_product_at
6c660	74 65 6e 74 69 6f 6e 28 0a ba 13 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	tention(.....scaled_dot_product_
6c680	61 74 74 65 6e 74 69 6f 6e 5f 33 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31 35 1a 11 6e 6f 64 65 5f	attention_3..transpose_15..node_
6c6a0	74 72 61 6e 73 70 6f 73 65 5f 31 35 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40	transpose_15".Transpose*...perm@
6c6c0	00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61	.@.@.@....J....namespace...:.tra
6c6e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6c700	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
6c720	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
6c740	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
6c760	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
6c780	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
6c7a0	64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.3:.transformers.models
6c7c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
6c7e0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.3.attention:.tr
6c800	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
6c820	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
6c840	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.3.attention.self:.transfor
6c860	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
6c880	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31	ertSdpaSelfAttention/transpose_1
6c8a0	35 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f	5:.aten.transpose.intJ....pkg.to
6c8c0	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
6c8e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6c900	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
6c920	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
6c940	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertModel',.'transforme
6c960	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6c980	74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	tEncoder',.'transformers.models.
6c9a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27	bert.modeling_bert.BertLayer',.'
6c9c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
6c9e0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	g_bert.BertAttention',.'transfor
6ca00	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
6ca20	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61	ertSdpaSelfAttention',.'aten.tra
6ca40	6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a aa 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	nspose.int']J....pkg.torch.onnx.
6ca60	66 78 5f 6e 6f 64 65 12 8f 01 25 74 72 61 6e 73 70 6f 73 65 5f 31 35 20 3a 20 5b 6e 75 6d 5f 75	fx_node...%transpose_15.:.[num_u
6ca80	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
6caa0	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67	orch.ops.aten.transpose.int](arg
6cac0	73 20 3d 20 28 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	s.=.(%scaled_dot_product_attenti
6cae0	6f 6e 5f 33 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b	on_3,.1,.2),.kwargs.=.{})J....pk
6cb00	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
6cb20	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
6cb40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.3',.'bert.encoder.la
6cb60	79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.3.attention',.'bert.encoder.
6cb80	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70	layer.3.attention.self',.'transp
6cba0	6f 73 65 5f 31 35 27 5d 4a fa 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	ose_15']J....pkg.torch.onnx.stac
6cbc0	6b 5f 74 72 61 63 65 12 db 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
6cbe0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
6cc00	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
6cc20	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
6cc40	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
6cc60	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
6cc80	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
6cca0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
6ccc0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
6cce0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
6cd00	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
6cd20	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
6cd40	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
6cd60	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
6cd80	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
6cda0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
6cdc0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
6cde0	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
6ce00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
6ce20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
6ce40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
6ce60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
6ce80	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
6cea0	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
6cec0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
6cee0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
6cf00	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
6cf20	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
6cf40	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
6cf60	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
6cf80	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
6cfa0	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
6cfc0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
6cfe0	22 2c 20 6c 69 6e 65 20 34 32 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.422,.in.forward.....attn
6d000	5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 74 72 61 6e 73 70 6f 73 65 28	_output.=.attn_output.transpose(
6d020	31 2c 20 32 29 0a bf 13 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 35 0a 07 76 61 6c 5f 31 31 39 12	1,.2).....transpose_15..val_119.
6d040	07 76 69 65 77 5f 31 35 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 31 35 22 07 52 65 73 68 61 70 65 2a	.view_15..node_view_15".Reshape*
6d060	10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12	...allowzero.....J....namespace.
6d080	d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..:.transformers.models.bert.mod
6d0a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
6d0c0	61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ation/bert:.transformers.models.
6d0e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72	bert.modeling_bert.BertModel/ber
6d100	74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	t.encoder:.transformers.models.b
6d120	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65	ert.modeling_bert.BertEncoder/be
6d140	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.encoder.layer.3:.transformers
6d160	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
6d180	61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74	ayer/bert.encoder.layer.3.attent
6d1a0	69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ion:.transformers.models.bert.mo
6d1c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65	deling_bert.BertAttention/bert.e
6d1e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74	ncoder.layer.3.attention.self:.t
6d200	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
6d220	5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77	_bert.BertSdpaSelfAttention/view
6d240	5f 31 35 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74	_15:.aten.view.defaultJ....pkg.t
6d260	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
6d280	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
6d2a0	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
6d2c0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
6d2e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
6d300	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
6d320	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
6d340	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
6d360	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
6d380	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
6d3a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
6d3c0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69	BertSdpaSelfAttention',.'aten.vi
6d3e0	65 77 2e 64 65 66 61 75 6c 74 27 5d 4a b7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	ew.default']J....pkg.torch.onnx.
6d400	66 78 5f 6e 6f 64 65 12 9c 01 25 76 69 65 77 5f 31 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	fx_node...%view_15.:.[num_users=
6d420	31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	1].=.call_function[target=torch.
6d440	6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	ops.aten.view.default](args.=.(%
6d460	74 72 61 6e 73 70 6f 73 65 5f 31 35 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c	transpose_15,.[%sym_size_int_45,
6d480	20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 2c 20 32 35 36 5d 29 2c 20 6b 77 61 72 67 73	.%sym_size_int_48,.256]),.kwargs
6d4a0	20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73	.=.{})J....pkg.torch.onnx.name_s
6d4c0	63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	copes...['',.'bert',.'bert.encod
6d4e0	65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65	er',.'bert.encoder.layer.3',.'be
6d500	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27	rt.encoder.layer.3.attention',.'
6d520	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.3.attention.s
6d540	65 6c 66 27 2c 20 27 76 69 65 77 5f 31 35 27 5d 4a 94 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	elf',.'view_15']J....pkg.torch.o
6d560	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f5 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
6d580	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
6d5a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
6d5c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
6d5e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
6d600	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
6d620	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
6d640	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
6d660	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
6d680	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
6d6a0	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
6d6c0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
6d6e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
6d700	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
6d720	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
6d740	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
6d760	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
6d780	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
6d7a0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
6d7c0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
6d7e0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
6d800	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
6d820	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
6d840	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
6d860	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
6d880	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
6d8a0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
6d8c0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
6d8e0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
6d900	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
6d920	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
6d940	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
6d960	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
6d980	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.423,.in.forward.
6d9a0	20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 72 65	....attn_output.=.attn_output.re
6d9c0	73 68 61 70 65 28 62 73 7a 2c 20 74 67 74 5f 6c 65 6e 2c 20 73 65 6c 66 2e 61 6c 6c 5f 68 65 61	shape(bsz,.tgt_len,.self.all_hea
6d9e0	64 5f 73 69 7a 65 29 0a ca 16 0a 07 76 69 65 77 5f 31 35 0a 07 76 61 6c 5f 33 34 32 12 07 76 61	d_size).....view_15..val_342..va
6da00	6c 5f 33 34 33 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33 32 39 22 06 4d 61 74 4d 75 6c 4a ad	l_343..node_MatMul_329".MatMulJ.
6da20	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
6da40	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
6da60	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
6da80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
6daa0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
6dac0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
6dae0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a	ertEncoder/bert.encoder.layer.3:
6db00	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
6db20	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
6db40	61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.3.attention:.transformers.m
6db60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
6db80	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	ention/bert.encoder.layer.3.atte
6dba0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ntion.output:.transformers.model
6dbc0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74	s.bert.modeling_bert.BertSelfOut
6dbe0	70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	put/bert.encoder.layer.3.attenti
6dc00	6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	on.output.dense:.torch.nn.module
6dc20	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 31 3a 20 61 74 65 6e 2e	s.linear.Linear/linear_21:.aten.
6dc40	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	linear.defaultJ....pkg.torch.onn
6dc60	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
6dc80	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
6dca0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
6dcc0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
6dce0	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
6dd00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
6dd20	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
6dd40	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
6dd60	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
6dd80	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
6dda0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66	dels.bert.modeling_bert.BertSelf
6ddc0	4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61	Output',.'torch.nn.modules.linea
6dde0	72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27	r.Linear',.'aten.linear.default'
6de00	5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25	]J....pkg.torch.onnx.fx_node...%
6de20	6c 69 6e 65 61 72 5f 32 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	linear_21.:.[num_users=1].=.call
6de40	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
6de60	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 35	linear.default](args.=.(%view_15
6de80	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_3_attent
6dea0	69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74	ion_output_dense_weight,.%p_bert
6dec0	5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	_encoder_layer_3_attention_outpu
6dee0	74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a da 01 0a 1a	t_dense_bias),.kwargs.=.{})J....
6df00	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 bb 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
6df20	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
6df40	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.3',.'bert.encoder.
6df60	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.3.attention',.'bert.encode
6df80	72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65	r.layer.3.attention.output',.'be
6dfa0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.3.attention.out
6dfc0	70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 31 27 5d 4a d9 0a 0a 1a 70 6b 67	put.dense',.'linear_21']J....pkg
6dfe0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
6e000	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
6e020	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
6e040	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
6e060	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
6e080	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
6e0a0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
6e0c0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
6e0e0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
6e100	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
6e120	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
6e140	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
6e160	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
6e180	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
6e1a0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
6e1c0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
6e1e0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
6e200	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
6e220	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
6e240	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
6e260	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
6e280	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
6e2a0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
6e2c0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
6e2e0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
6e300	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
6e320	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
6e340	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
6e360	69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f	ine.497,.in.forward.....attentio
6e380	6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70	n_output.=.self.output(self_outp
6e3a0	75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	uts[0],.hidden_states)...File."/
6e3c0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
6e3e0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
6e400	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
6e420	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36	bert/modeling_bert.py",.line.436
6e440	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
6e460	20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c	.self.dense(hidden_states)...Fil
6e480	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
6e4a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
6e4c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73	0/site-packages/torch/nn/modules
6e4e0	2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72	/linear.py",.line.134,.in.forwar
6e500	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c	d.....return.F.linear(input,.sel
6e520	66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a f1 16 0a 07 76 61 6c 5f 33 34 33	f.weight,.self.bias).....val_343
6e540	0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	.0bert.encoder.layer.3.attention
6e560	2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 32 31 1a 0e 6e	.output.dense.bias..linear_21..n
6e580	6f 64 65 5f 6c 69 6e 65 61 72 5f 32 31 22 03 41 64 64 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65	ode_linear_21".AddJ....namespace
6e5a0	12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
6e5c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
6e5e0	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
6e600	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
6e620	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
6e640	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
6e660	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.3:.transformer
6e680	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6e6a0	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e	Layer/bert.encoder.layer.3.atten
6e6c0	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
6e6e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
6e700	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.3.attention.output
6e720	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
6e740	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63	ing_bert.BertSelfOutput/bert.enc
6e760	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65	oder.layer.3.attention.output.de
6e780	6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	nse:.torch.nn.modules.linear.Lin
6e7a0	65 61 72 2f 6c 69 6e 65 61 72 5f 32 31 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	ear/linear_21:.aten.linear.defau
6e7c0	6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
6e7e0	61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
6e800	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
6e820	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
6e840	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
6e860	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
6e880	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
6e8a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
6e8c0	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
6e8e0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
6e900	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
6e920	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f	deling_bert.BertSelfOutput',.'to
6e940	72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27	rch.nn.modules.linear.Linear',.'
6e960	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f	aten.linear.default']J....pkg.to
6e980	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 32 31 20 3a 20	rch.onnx.fx_node...%linear_21.:.
6e9a0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
6e9c0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	rget=torch.ops.aten.linear.defau
6e9e0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 35 2c 20 25 70 5f 62 65 72 74 5f 65 6e	lt](args.=.(%view_15,.%p_bert_en
6ea00	63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64	coder_layer_3_attention_output_d
6ea20	65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79	ense_weight,.%p_bert_encoder_lay
6ea40	65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73	er_3_attention_output_dense_bias
6ea60	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a da 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
6ea80	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 bb 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
6eaa0	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
6eac0	72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	r.3',.'bert.encoder.layer.3.atte
6eae0	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	ntion',.'bert.encoder.layer.3.at
6eb00	74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	tention.output',.'bert.encoder.l
6eb20	61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20	ayer.3.attention.output.dense',.
6eb40	27 6c 69 6e 65 61 72 5f 32 31 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	'linear_21']J....pkg.torch.onnx.
6eb60	73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
6eb80	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
6eba0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
6ebc0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
6ebe0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
6ec00	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
6ec20	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
6ec40	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
6ec60	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
6ec80	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
6eca0	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
6ecc0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
6ece0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
6ed00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
6ed20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
6ed40	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
6ed60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
6ed80	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
6eda0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
6edc0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
6ede0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
6ee00	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.558,.in.for
6ee20	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20	ward.....self_attention_outputs.
6ee40	3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	=.self.attention(...File."/home/
6ee60	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
6ee80	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
6eea0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
6eec0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20	modeling_bert.py",.line.497,.in.
6eee0	66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73	forward.....attention_output.=.s
6ef00	65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64	elf.output(self_outputs[0],.hidd
6ef20	65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	en_states)...File."/home/hsiangn
6ef40	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
6ef60	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
6ef80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
6efa0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.436,.in.forward
6efc0	0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28	.....hidden_states.=.self.dense(
6efe0	68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	hidden_states)...File."/home/hsi
6f000	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
6f020	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
6f040	67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c	ges/torch/nn/modules/linear.py",
6f060	20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e	.line.134,.in.forward.....return
6f080	20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65	.F.linear(input,.self.weight,.se
6f0a0	6c 66 2e 62 69 61 73 29 0a 97 13 0a 09 6c 69 6e 65 61 72 5f 32 31 0a 0c 6c 61 79 65 72 5f 6e 6f	lf.bias).....linear_21..layer_no
6f0c0	72 6d 5f 36 12 07 61 64 64 5f 33 34 34 1a 0c 6e 6f 64 65 5f 61 64 64 5f 33 34 34 22 03 41 64 64	rm_6..add_344..node_add_344".Add
6f0e0	4a db 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 cd 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
6f100	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
6f120	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
6f140	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
6f160	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
6f180	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
6f1a0	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
6f1c0	33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	3:.transformers.models.bert.mode
6f1e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
6f200	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.layer.3.attention:.transformers
6f220	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
6f240	74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	ttention/bert.encoder.layer.3.at
6f260	74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	tention.output:.transformers.mod
6f280	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f	els.bert.modeling_bert.BertSelfO
6f2a0	75 74 70 75 74 2f 61 64 64 5f 33 34 34 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a 8a	utput/add_344:.aten.add.TensorJ.
6f2c0	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
6f2e0	79 12 e7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
6f300	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
6f320	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
6f340	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
6f360	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
6f380	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
6f3a0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6f3c0	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
6f3e0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
6f400	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
6f420	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e 61	ng_bert.BertSelfOutput',.'aten.a
6f440	64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	dd.Tensor']J....pkg.torch.onnx.f
6f460	78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 33 34 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	x_node.y%add_344.:.[num_users=1]
6f480	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
6f4a0	73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e	s.aten.add.Tensor](args.=.(%clon
6f4c0	65 5f 38 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 36 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	e_8,.%layer_norm_6),.kwargs.=.{}
6f4e0	29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
6f500	12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
6f520	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.3',.'bert.en
6f540	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.3.attention',.'bert.
6f560	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.3.attention.output
6f580	27 2c 20 27 61 64 64 5f 33 34 34 27 5d 4a b2 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	',.'add_344']J....pkg.torch.onnx
6f5a0	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 93 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
6f5c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
6f5e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
6f600	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
6f620	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
6f640	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
6f660	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
6f680	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
6f6a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
6f6c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
6f6e0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
6f700	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
6f720	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
6f740	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
6f760	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
6f780	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
6f7a0	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
6f7c0	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
6f7e0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
6f800	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
6f820	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
6f840	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
6f860	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
6f880	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
6f8a0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
6f8c0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
6f8e0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
6f900	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e	/modeling_bert.py",.line.497,.in
6f920	20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20	.forward.....attention_output.=.
6f940	73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64	self.output(self_outputs[0],.hid
6f960	64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	den_states)...File."/home/hsiang
6f980	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
6f9a0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
6f9c0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
6f9e0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.438,.in.forwar
6fa00	64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72	d.....hidden_states.=.self.Layer
6fa20	4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f	Norm(hidden_states.+.input_tenso
6fa40	72 29 0a c5 18 0a 07 61 64 64 5f 33 34 34 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	r).....add_344.6bert.encoder.lay
6fa60	65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e	er.3.attention.output.LayerNorm.
6fa80	77 65 69 67 68 74 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74	weight.4bert.encoder.layer.3.att
6faa0	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61	ention.output.LayerNorm.bias..la
6fac0	79 65 72 5f 6e 6f 72 6d 5f 37 1a 11 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 22 12 4c	yer_norm_7..node_layer_norm_7".L
6fae0	61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18	ayerNormalization*...stash_type.
6fb00	01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18	....*...epsilon....+...*...axis.
6fb20	ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a c2 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 b4 04 3a 20	.............J....namespace...:.
6fb40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
6fb60	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
6fb80	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
6fba0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
6fbc0	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
6fbe0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
6fc00	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.3:.transformers.mod
6fc20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
6fc40	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.3.attention:
6fc60	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
6fc80	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
6fca0	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61	er.layer.3.attention.output:.tra
6fcc0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6fce0	65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ert.BertSelfOutput/bert.encoder.
6fd00	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f	layer.3.attention.output.LayerNo
6fd20	72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69	rm:.torch.nn.modules.normalizati
6fd40	6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 3a 20 61 74 65 6e 2e	on.LayerNorm/layer_norm_7:.aten.
6fd60	6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a be 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	layer_norm.defaultJ....pkg.torch
6fd80	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 9b 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
6fda0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
6fdc0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
6fde0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
6fe00	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
6fe20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
6fe40	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
6fe60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
6fe80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
6fea0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
6fec0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
6fee0	53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e	SelfOutput',.'torch.nn.modules.n
6ff00	6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c	ormalization.LayerNorm',.'aten.l
6ff20	61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 94 02 0a 16 70 6b 67 2e 74 6f 72 63	ayer_norm.default']J....pkg.torc
6ff40	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 f9 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 20 3a	h.onnx.fx_node...%layer_norm_7.:
6ff60	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=2].=.call_function[t
6ff80	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e	arget=torch.ops.aten.layer_norm.
6ffa0	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 33 34 34 2c 20 5b 32 35 36 5d	default](args.=.(%add_344,.[256]
6ffc0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_3_attent
6ffe0	69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f	ion_output_layernorm_weight,.%p_
70000	62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	bert_encoder_layer_3_attention_o
70020	75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77	utput_layernorm_bias,.1e-12),.kw
70040	61 72 67 73 20 3d 20 7b 7d 29 4a e1 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
70060	6d 65 5f 73 63 6f 70 65 73 12 c2 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
70080	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c	ncoder',.'bert.encoder.layer.3',
700a0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.3.attention
700c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.3.attenti
700e0	6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	on.output',.'bert.encoder.layer.
70100	33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27	3.attention.output.LayerNorm',.'
70120	6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	layer_norm_7']J....pkg.torch.onn
70140	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
70160	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
70180	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
701a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
701c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
701e0	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
70200	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
70220	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
70240	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
70260	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
70280	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
702a0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
702c0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
702e0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
70300	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
70320	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
70340	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
70360	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
70380	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
703a0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
703c0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
703e0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66	odeling_bert.py",.line.558,.in.f
70400	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	orward.....self_attention_output
70420	73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	s.=.self.attention(...File."/hom
70440	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
70460	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
70480	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
704a0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69	t/modeling_bert.py",.line.497,.i
704c0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d	n.forward.....attention_output.=
704e0	20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69	.self.output(self_outputs[0],.hi
70500	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
70520	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
70540	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
70560	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
70580	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.438,.in.forwa
705a0	72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65	rd.....hidden_states.=.self.Laye
705c0	72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73	rNorm(hidden_states.+.input_tens
705e0	6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	or)...File."/home/hsiangnianian/
70600	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
70620	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e	python3.10/site-packages/torch/n
70640	6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e	n/modules/normalization.py",.lin
70660	65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c	e.229,.in.forward.....return.F.l
70680	61 79 65 72 5f 6e 6f 72 6d 28 0a b9 13 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 0a 07 76 61 6c	ayer_norm(.....layer_norm_7..val
706a0	5f 33 34 36 12 07 76 61 6c 5f 33 34 37 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33 33 31 22 06	_346..val_347..node_MatMul_331".
706c0	4d 61 74 4d 75 6c 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f	MatMulJ....namespace...:.transfo
706e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
70700	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
70720	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
70740	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
70760	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
70780	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
707a0	6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.3:.transformers.models.ber
707c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
707e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61	ncoder.layer.3.intermediate:.tra
70800	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
70820	65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ert.BertIntermediate/bert.encode
70840	72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f	r.layer.3.intermediate.dense:.to
70860	72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e	rch.nn.modules.linear.Linear/lin
70880	65 61 72 5f 32 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e	ear_22:.aten.linear.defaultJ....
708a0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7	pkg.torch.onnx.class_hierarchy..
708c0	02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
708e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
70900	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
70920	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
70940	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
70960	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
70980	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
709a0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
709c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20	odeling_bert.BertIntermediate',.
709e0	27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27	'torch.nn.modules.linear.Linear'
70a00	2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67	,.'aten.linear.default']J....pkg
70a20	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 32 32	.torch.onnx.fx_node...%linear_22
70a40	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
70a60	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65	[target=torch.ops.aten.linear.de
70a80	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 2c 20 25 70	fault](args.=.(%layer_norm_7,.%p
70aa0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 69 6e 74 65 72 6d 65 64 69 61	_bert_encoder_layer_3_intermedia
70ac0	74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	te_dense_weight,.%p_bert_encoder
70ae0	5f 6c 61 79 65 72 5f 33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73	_layer_3_intermediate_dense_bias
70b00	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
70b20	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
70b40	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
70b60	72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65	r.3',.'bert.encoder.layer.3.inte
70b80	72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	rmediate',.'bert.encoder.layer.3
70ba0	2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 32	.intermediate.dense',.'linear_22
70bc0	27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
70be0	65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
70c00	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
70c20	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
70c40	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
70c60	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
70c80	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
70ca0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
70cc0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
70ce0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
70d00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
70d20	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
70d40	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
70d60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
70d80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
70da0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
70dc0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
70de0	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
70e00	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
70e20	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
70e40	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
70e60	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
70e80	2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.588,.in.forward.....l
70ea0	61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f	ayer_output.=.apply_chunking_to_
70ec0	66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	forward(...File."/home/hsiangnia
70ee0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
70f00	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
70f20	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
70f40	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.512,.in.forward..
70f60	20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69	...hidden_states.=.self.dense(hi
70f80	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
70fa0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
70fc0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
70fe0	73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c	s/torch/nn/modules/linear.py",.l
71000	69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46	ine.134,.in.forward.....return.F
71020	2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66	.linear(input,.self.weight,.self
71040	2e 62 69 61 73 29 0a d7 13 0a 07 76 61 6c 5f 33 34 37 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72	.bias).....val_347.,bert.encoder
71060	2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73	.layer.3.intermediate.dense.bias
71080	12 09 6c 69 6e 65 61 72 5f 32 32 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 32 22 03 41 64 64	..linear_22..node_linear_22".Add
710a0	4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
710c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
710e0	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
71100	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
71120	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
71140	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
71160	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
71180	33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	3:.transformers.models.bert.mode
711a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
711c0	2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d	.layer.3.intermediate:.transform
711e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
71200	72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rtIntermediate/bert.encoder.laye
71220	72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e	r.3.intermediate.dense:.torch.nn
71240	2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 32	.modules.linear.Linear/linear_22
71260	3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f	:.aten.linear.defaultJ....pkg.to
71280	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
712a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
712c0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
712e0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
71300	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertModel',.'transforme
71320	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
71340	74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	tEncoder',.'transformers.models.
71360	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27	bert.modeling_bert.BertLayer',.'
71380	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
713a0	67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68	g_bert.BertIntermediate',.'torch
713c0	2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65	.nn.modules.linear.Linear',.'ate
713e0	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68	n.linear.default']J....pkg.torch
71400	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 32 32 20 3a 20 5b 6e 75	.onnx.fx_node...%linear_22.:.[nu
71420	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
71440	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d	t=torch.ops.aten.linear.default]
71460	28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 2c 20 25 70 5f 62 65 72 74 5f	(args.=.(%layer_norm_7,.%p_bert_
71480	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e	encoder_layer_3_intermediate_den
714a0	73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	se_weight,.%p_bert_encoder_layer
714c0	5f 33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61	_3_intermediate_dense_bias),.kwa
714e0	72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
71500	65 5f 73 63 6f 70 65 73 12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
71520	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20	coder',.'bert.encoder.layer.3',.
71540	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61	'bert.encoder.layer.3.intermedia
71560	74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72	te',.'bert.encoder.layer.3.inter
71580	6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 32 27 5d 4a 81 09 0a	mediate.dense',.'linear_22']J...
715a0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69	.pkg.torch.onnx.stack_trace...Fi
715c0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
715e0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
71600	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
71620	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
71640	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
71660	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
71680	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
716a0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
716c0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
716e0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
71700	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
71720	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
71740	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
71760	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
71780	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
717a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
717c0	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
717e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
71800	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
71820	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
71840	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
71860	6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.588,.in.forward.....layer_o
71880	75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72	utput.=.apply_chunking_to_forwar
718a0	64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	d(...File."/home/hsiangnianian/g
718c0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
718e0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
71900	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
71920	79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64	y",.line.512,.in.forward.....hid
71940	64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73	den_states.=.self.dense(hidden_s
71960	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
71980	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
719a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63	ib/python3.10/site-packages/torc
719c0	68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33	h/nn/modules/linear.py",.line.13
719e0	34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61	4,.in.forward.....return.F.linea
71a00	72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29	r(input,.self.weight,.self.bias)
71a20	0a de 12 0a 09 6c 69 6e 65 61 72 5f 32 32 0a 07 76 61 6c 5f 31 32 36 12 07 76 61 6c 5f 33 34 39	.....linear_22..val_126..val_349
71a40	1a 0c 6e 6f 64 65 5f 44 69 76 5f 33 33 33 22 03 44 69 76 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63	..node_Div_333".DivJ....namespac
71a60	65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
71a80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
71aa0	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
71ac0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
71ae0	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
71b00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
71b20	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.3:.transforme
71b40	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
71b60	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65	tLayer/bert.encoder.layer.3.inte
71b80	72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	rmediate:.transformers.models.be
71ba0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74	rt.modeling_bert.BertIntermediat
71bc0	65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69	e/bert.encoder.layer.3.intermedi
71be0	61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f	ate.intermediate_act_fn:.transfo
71c00	72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e	rmers.activations.GELUActivation
71c20	2f 67 65 6c 75 5f 33 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70	/gelu_3:.aten.gelu.defaultJ....p
71c40	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02	kg.torch.onnx.class_hierarchy...
71c60	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
71c80	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
71ca0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
71cc0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
71ce0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
71d00	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
71d20	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
71d40	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
71d60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27	deling_bert.BertIntermediate',.'
71d80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74	transformers.activations.GELUAct
71da0	69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88	ivation',.'aten.gelu.default']J.
71dc0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75	...pkg.torch.onnx.fx_node.n%gelu
71de0	5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_3.:.[num_users=1].=.call_functi
71e00	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65	on[target=torch.ops.aten.gelu.de
71e20	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 32 2c 29 2c 20 6b 77 61	fault](args.=.(%linear_22,),.kwa
71e40	72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
71e60	65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
71e80	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20	coder',.'bert.encoder.layer.3',.
71ea0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61	'bert.encoder.layer.3.intermedia
71ec0	74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72	te',.'bert.encoder.layer.3.inter
71ee0	6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67	mediate.intermediate_act_fn',.'g
71f00	65 6c 75 5f 33 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	elu_3']J....pkg.torch.onnx.stack
71f20	5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
71f40	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
71f60	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
71f80	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
71fa0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
71fc0	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
71fe0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
72000	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
72020	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
72040	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30	bert/modeling_bert.py",.line.100
72060	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74	0,.in.forward.....encoder_output
72080	73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.self.encoder(...File."/home/
720a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
720c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
720e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
72100	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20	modeling_bert.py",.line.650,.in.
72120	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65	forward.....layer_outputs.=.laye
72140	72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	r_module(...File."/home/hsiangni
72160	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
72180	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
721a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
721c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.588,.in.forward.
721e0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e	....layer_output.=.apply_chunkin
72200	67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	g_to_forward(...File."/home/hsia
72220	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
72240	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
72260	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
72280	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.513,.in.forw
722a0	61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74	ard.....hidden_states.=.self.int
722c0	65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a	ermediate_act_fn(hidden_states).
722e0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
72300	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
72320	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
72340	73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66	s/activations.py",.line.85,.in.f
72360	6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74	orward.....return.self.act(input
72380	29 0a d3 12 0a 07 76 61 6c 5f 33 34 39 12 07 76 61 6c 5f 33 35 30 1a 0c 6e 6f 64 65 5f 45 72 66	).....val_349..val_350..node_Erf
723a0	5f 33 33 34 22 03 45 72 66 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e	_334".ErfJ....namespace...:.tran
723c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
723e0	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
72400	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
72420	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
72440	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
72460	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
72480	65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.3:.transformers.models.
724a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
724c0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20	t.encoder.layer.3.intermediate:.
724e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
72500	67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63	g_bert.BertIntermediate/bert.enc
72520	6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d	oder.layer.3.intermediate.interm
72540	65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69	ediate_act_fn:.transformers.acti
72560	76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 33 3a 20 61	vations.GELUActivation/gelu_3:.a
72580	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	ten.gelu.defaultJ....pkg.torch.o
725a0	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
725c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
725e0	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
72600	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
72620	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
72640	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
72660	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
72680	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
726a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
726c0	74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	t.BertIntermediate',.'transforme
726e0	72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20	rs.activations.GELUActivation',.
72700	27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72	'aten.gelu.default']J....pkg.tor
72720	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 33 20 3a 20 5b 6e 75 6d 5f	ch.onnx.fx_node.n%gelu_3.:.[num_
72740	75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=1].=.call_function[target=
72760	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67	torch.ops.aten.gelu.default](arg
72780	73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 32 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	s.=.(%linear_22,),.kwargs.=.{})J
727a0	bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c	....pkg.torch.onnx.name_scopes..
727c0	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
727e0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.3',.'bert.enco
72800	64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74	der.layer.3.intermediate',.'bert
72820	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e	.encoder.layer.3.intermediate.in
72840	74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 33 27 5d 4a f7 08	termediate_act_fn',.'gelu_3']J..
72860	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46	..pkg.torch.onnx.stack_trace...F
72880	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
728a0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
728c0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
728e0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
72900	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
72920	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
72940	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
72960	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
72980	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
729a0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
729c0	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
729e0	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
72a00	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
72a20	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
72a40	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
72a60	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
72a80	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
72aa0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
72ac0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
72ae0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
72b00	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
72b20	20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.588,.in.forward.....layer_
72b40	6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61	output.=.apply_chunking_to_forwa
72b60	72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rd(...File."/home/hsiangnianian/
72b80	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
72ba0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
72bc0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
72be0	70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69	py",.line.513,.in.forward.....hi
72c00	64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f	dden_states.=.self.intermediate_
72c20	61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68	act_fn(hidden_states)...File."/h
72c40	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
72c60	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
72c80	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69	e-packages/transformers/activati
72ca0	6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	ons.py",.line.85,.in.forward....
72cc0	20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f	.return.self.act(input).....val_
72ce0	33 35 30 0a 07 63 6c 6f 6e 65 5f 31 12 07 76 61 6c 5f 33 35 32 1a 0c 6e 6f 64 65 5f 41 64 64 5f	350..clone_1..val_352..node_Add_
72d00	33 33 36 22 03 41 64 64 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73	336".AddJ....namespace...:.trans
72d20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
72d40	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
72d60	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
72d80	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
72da0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
72dc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
72de0	72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.3:.transformers.models.b
72e00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
72e20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74	.encoder.layer.3.intermediate:.t
72e40	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
72e60	5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f	_bert.BertIntermediate/bert.enco
72e80	64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65	der.layer.3.intermediate.interme
72ea0	64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76	diate_act_fn:.transformers.activ
72ec0	61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 33 3a 20 61 74	ations.GELUActivation/gelu_3:.at
72ee0	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	en.gelu.defaultJ....pkg.torch.on
72f00	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
72f20	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
72f40	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
72f60	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
72f80	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
72fa0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
72fc0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
72fe0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
73000	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
73020	2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	.BertIntermediate',.'transformer
73040	73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27	s.activations.GELUActivation',.'
73060	61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.gelu.default']J....pkg.torc
73080	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 33 20 3a 20 5b 6e 75 6d 5f 75	h.onnx.fx_node.n%gelu_3.:.[num_u
730a0	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
730c0	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73	orch.ops.aten.gelu.default](args
730e0	20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 32 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb	.=.(%linear_22,),.kwargs.=.{})J.
73100	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01	...pkg.torch.onnx.name_scopes...
73120	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
73140	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.3',.'bert.encod
73160	65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e	er.layer.3.intermediate',.'bert.
73180	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74	encoder.layer.3.intermediate.int
731a0	65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 33 27 5d 4a f7 08 0a	ermediate_act_fn',.'gelu_3']J...
731c0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69	.pkg.torch.onnx.stack_trace...Fi
731e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
73200	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
73220	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
73240	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
73260	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
73280	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
732a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
732c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
732e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
73300	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
73320	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
73340	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
73360	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
73380	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
733a0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
733c0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
733e0	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
73400	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
73420	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
73440	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
73460	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
73480	6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.588,.in.forward.....layer_o
734a0	75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72	utput.=.apply_chunking_to_forwar
734c0	64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	d(...File."/home/hsiangnianian/g
734e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
73500	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
73520	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
73540	79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64	y",.line.513,.in.forward.....hid
73560	64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61	den_states.=.self.intermediate_a
73580	63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ct_fn(hidden_states)...File."/ho
735a0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
735c0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
735e0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f	-packages/transformers/activatio
73600	6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	ns.py",.line.85,.in.forward.....
73620	72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 31	return.self.act(input).....val_1
73640	33 31 0a 07 76 61 6c 5f 33 35 32 12 07 76 61 6c 5f 33 35 34 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 33	31..val_352..val_354..node_Mul_3
73660	33 38 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66	38".MulJ....namespace...:.transf
73680	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
736a0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
736c0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
736e0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
73700	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
73720	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
73740	2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.3:.transformers.models.be
73760	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
73780	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72	encoder.layer.3.intermediate:.tr
737a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
737c0	62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64	bert.BertIntermediate/bert.encod
737e0	65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64	er.layer.3.intermediate.intermed
73800	69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61	iate_act_fn:.transformers.activa
73820	74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 33 3a 20 61 74 65	tions.GELUActivation/gelu_3:.ate
73840	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	n.gelu.defaultJ....pkg.torch.onn
73860	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
73880	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
738a0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
738c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
738e0	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
73900	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
73920	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
73940	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
73960	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
73980	42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	BertIntermediate',.'transformers
739a0	2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61	.activations.GELUActivation',.'a
739c0	74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ten.gelu.default']J....pkg.torch
739e0	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73	.onnx.fx_node.n%gelu_3.:.[num_us
73a00	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
73a20	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20	rch.ops.aten.gelu.default](args.
73a40	3d 20 28 25 6c 69 6e 65 61 72 5f 32 32 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01	=.(%linear_22,),.kwargs.=.{})J..
73a60	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b	..pkg.torch.onnx.name_scopes...[
73a80	27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72	'',.'bert',.'bert.encoder',.'ber
73aa0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t.encoder.layer.3',.'bert.encode
73ac0	72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65	r.layer.3.intermediate',.'bert.e
73ae0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65	ncoder.layer.3.intermediate.inte
73b00	72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 33 27 5d 4a f7 08 0a 1a	rmediate_act_fn',.'gelu_3']J....
73b20	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
73b40	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
73b60	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
73b80	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
73ba0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
73bc0	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
73be0	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
73c00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
73c20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
73c40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
73c60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
73c80	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
73ca0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
73cc0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
73ce0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
73d00	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
73d20	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
73d40	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
73d60	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
73d80	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
73da0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
73dc0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
73de0	69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.588,.in.forward.....layer_ou
73e00	74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64	tput.=.apply_chunking_to_forward
73e20	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
73e40	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
73e60	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
73e80	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
73ea0	22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64	",.line.513,.in.forward.....hidd
73ec0	65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	en_states.=.self.intermediate_ac
73ee0	74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	t_fn(hidden_states)...File."/hom
73f00	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
73f20	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
73f40	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e	packages/transformers/activation
73f60	73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	s.py",.line.85,.in.forward.....r
73f80	65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 09 6c 69 6e 65 61 72	eturn.self.act(input).....linear
73fa0	5f 32 32 0a 07 76 61 6c 5f 33 35 34 12 06 67 65 6c 75 5f 33 1a 0b 6e 6f 64 65 5f 67 65 6c 75 5f	_22..val_354..gelu_3..node_gelu_
73fc0	33 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f	3".MulJ....namespace...:.transfo
73fe0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
74000	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
74020	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
74040	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
74060	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
74080	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
740a0	6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.3:.transformers.models.ber
740c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
740e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61	ncoder.layer.3.intermediate:.tra
74100	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
74120	65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ert.BertIntermediate/bert.encode
74140	72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69	r.layer.3.intermediate.intermedi
74160	61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74	ate_act_fn:.transformers.activat
74180	69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 33 3a 20 61 74 65 6e	ions.GELUActivation/gelu_3:.aten
741a0	2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.gelu.defaultJ....pkg.torch.onnx
741c0	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
741e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
74200	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
74220	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
74240	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
74260	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
74280	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
742a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
742c0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
742e0	65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ertIntermediate',.'transformers.
74300	61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74	activations.GELUActivation',.'at
74320	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	en.gelu.default']J....pkg.torch.
74340	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 33 20 3a 20 5b 6e 75 6d 5f 75 73 65	onnx.fx_node.n%gelu_3.:.[num_use
74360	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
74380	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	ch.ops.aten.gelu.default](args.=
743a0	20 28 25 6c 69 6e 65 61 72 5f 32 32 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a	.(%linear_22,),.kwargs.=.{})J...
743c0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27	.pkg.torch.onnx.name_scopes...['
743e0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
74400	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.3',.'bert.encoder
74420	2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e	.layer.3.intermediate',.'bert.en
74440	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72	coder.layer.3.intermediate.inter
74460	6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 33 27 5d 4a f7 08 0a 1a 70	mediate_act_fn',.'gelu_3']J....p
74480	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65	kg.torch.onnx.stack_trace...File
744a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
744c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
744e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
74500	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
74520	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
74540	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
74560	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
74580	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
745a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
745c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
745e0	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
74600	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
74620	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
74640	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
74660	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
74680	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
746a0	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
746c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
746e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
74700	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
74720	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
74740	6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74	ne.588,.in.forward.....layer_out
74760	70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28	put.=.apply_chunking_to_forward(
74780	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
747a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
747c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
747e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
74800	2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65	,.line.513,.in.forward.....hidde
74820	6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74	n_states.=.self.intermediate_act
74840	5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	_fn(hidden_states)...File."/home
74860	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
74880	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
748a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73	ackages/transformers/activations
748c0	2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65	.py",.line.85,.in.forward.....re
748e0	74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a fd 12 0a 06 67 65 6c 75 5f 33 0a	turn.self.act(input).....gelu_3.
74900	07 76 61 6c 5f 33 35 35 12 07 76 61 6c 5f 33 35 36 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33	.val_355..val_356..node_MatMul_3
74920	34 30 22 06 4d 61 74 4d 75 6c 4a c0 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61	40".MatMulJ....namespace...:.tra
74940	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
74960	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
74980	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
749a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
749c0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
749e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
74a00	64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.3:.transformers.models
74a20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
74a40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73	rt.encoder.layer.3.output:.trans
74a60	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
74a80	74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	t.BertOutput/bert.encoder.layer.
74aa0	33 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73	3.output.dense:.torch.nn.modules
74ac0	2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 33 3a 20 61 74 65 6e 2e 6c	.linear.Linear/linear_23:.aten.l
74ae0	69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	inear.defaultJ....pkg.torch.onnx
74b00	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
74b20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
74b40	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
74b60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
74b80	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
74ba0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
74bc0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
74be0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
74c00	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
74c20	65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	ertOutput',.'torch.nn.modules.li
74c40	6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	near.Linear',.'aten.linear.defau
74c60	6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
74c80	c7 01 25 6c 69 6e 65 61 72 5f 32 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	..%linear_23.:.[num_users=1].=.c
74ca0	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
74cc0	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75	en.linear.default](args.=.(%gelu
74ce0	5f 33 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70	_3,.%p_bert_encoder_layer_3_outp
74d00	75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	ut_dense_weight,.%p_bert_encoder
74d20	5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61	_layer_3_output_dense_bias),.kwa
74d40	72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
74d60	65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
74d80	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20	coder',.'bert.encoder.layer.3',.
74da0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 27 2c 20 27	'bert.encoder.layer.3.output',.'
74dc0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65 6e 73	bert.encoder.layer.3.output.dens
74de0	65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 33 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	e',.'linear_23']J....pkg.torch.o
74e00	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
74e20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
74e40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
74e60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
74e80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
74ea0	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
74ec0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
74ee0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
74f00	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
74f20	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
74f40	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
74f60	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
74f80	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
74fa0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
74fc0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
74fe0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
75000	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
75020	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
75040	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
75060	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
75080	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
750a0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e	/modeling_bert.py",.line.588,.in
750c0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c	.forward.....layer_output.=.appl
750e0	79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f	y_chunking_to_forward(...File."/
75100	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
75120	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
75140	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
75160	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35	bert/modeling_bert.py",.line.525
75180	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
751a0	20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c	.self.dense(hidden_states)...Fil
751c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
751e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
75200	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73	0/site-packages/torch/nn/modules
75220	2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72	/linear.py",.line.134,.in.forwar
75240	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c	d.....return.F.linear(input,.sel
75260	66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 9b 13 0a 07 76 61 6c 5f 33 35 36	f.weight,.self.bias).....val_356
75280	0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65	.&bert.encoder.layer.3.output.de
752a0	6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 32 33 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72	nse.bias..linear_23..node_linear
752c0	5f 32 33 22 03 41 64 64 4a c0 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73	_23".AddJ....namespace...:.trans
752e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
75300	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
75320	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
75340	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
75360	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
75380	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
753a0	72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.3:.transformers.models.b
753c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
753e0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f	.encoder.layer.3.output:.transfo
75400	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
75420	42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e	BertOutput/bert.encoder.layer.3.
75440	6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c	output.dense:.torch.nn.modules.l
75460	69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 33 3a 20 61 74 65 6e 2e 6c 69 6e	inear.Linear/linear_23:.aten.lin
75480	65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	ear.defaultJ....pkg.torch.onnx.c
754a0	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
754c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
754e0	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
75500	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
75520	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
75540	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
75560	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
75580	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
755a0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
755c0	74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65	tOutput',.'torch.nn.modules.line
755e0	61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	ar.Linear',.'aten.linear.default
75600	27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01	']J....pkg.torch.onnx.fx_node...
75620	25 6c 69 6e 65 61 72 5f 32 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	%linear_23.:.[num_users=1].=.cal
75640	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
75660	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 33	.linear.default](args.=.(%gelu_3
75680	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74	,.%p_bert_encoder_layer_3_output
756a0	5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c	_dense_weight,.%p_bert_encoder_l
756c0	61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67	ayer_3_output_dense_bias),.kwarg
756e0	73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
75700	73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
75720	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62	der',.'bert.encoder.layer.3',.'b
75740	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 27 2c 20 27 62 65	ert.encoder.layer.3.output',.'be
75760	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27	rt.encoder.layer.3.output.dense'
75780	2c 20 27 6c 69 6e 65 61 72 5f 32 33 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.'linear_23']J....pkg.torch.onn
757a0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
757c0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
757e0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
75800	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
75820	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
75840	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
75860	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
75880	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
758a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
758c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
758e0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
75900	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
75920	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
75940	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
75960	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
75980	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
759a0	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
759c0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
759e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
75a00	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
75a20	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
75a40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.588,.in.f
75a60	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f	orward.....layer_output.=.apply_
75a80	63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	chunking_to_forward(...File."/ho
75aa0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
75ac0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
75ae0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
75b00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20	rt/modeling_bert.py",.line.525,.
75b20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73	in.forward.....hidden_states.=.s
75b40	65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20	elf.dense(hidden_states)...File.
75b60	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
75b80	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
75ba0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c	site-packages/torch/nn/modules/l
75bc0	69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	inear.py",.line.134,.in.forward.
75be0	20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e	....return.F.linear(input,.self.
75c00	77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a f2 0f 0a 09 6c 69 6e 65 61 72 5f 32 33	weight,.self.bias).....linear_23
75c20	0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 12 07 61 64 64 5f 33 36 33 1a 0c 6e 6f 64 65 5f 61 64	..layer_norm_7..add_363..node_ad
75c40	64 5f 33 36 33 22 03 41 64 64 4a f8 02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ea 02 3a 20 74 72 61	d_363".AddJ....namespace...:.tra
75c60	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
75c80	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
75ca0	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
75cc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
75ce0	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
75d00	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
75d20	64 65 72 2e 6c 61 79 65 72 2e 33 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.3:.transformers.models
75d40	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
75d60	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73	rt.encoder.layer.3.output:.trans
75d80	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
75da0	74 2e 42 65 72 74 4f 75 74 70 75 74 2f 61 64 64 5f 33 36 33 3a 20 61 74 65 6e 2e 61 64 64 2e 54	t.BertOutput/add_363:.aten.add.T
75dc0	65 6e 73 6f 72 4a ce 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68	ensorJ....pkg.torch.onnx.class_h
75de0	69 65 72 61 72 63 68 79 12 ab 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ierarchy...['transformers.models
75e00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
75e20	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	Classification',.'transformers.m
75e40	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
75e60	65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	el',.'transformers.models.bert.m
75e80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e	odeling_bert.BertEncoder',.'tran
75ea0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
75ec0	72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertLayer',.'transformers.mod
75ee0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75	els.bert.modeling_bert.BertOutpu
75f00	74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 93 01 0a 16 70 6b 67 2e 74	t',.'aten.add.Tensor']J....pkg.t
75f20	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 79 25 61 64 64 5f 33 36 33 20 3a 20 5b 6e	orch.onnx.fx_node.y%add_363.:.[n
75f40	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
75f60	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72	et=torch.ops.aten.add.Tensor](ar
75f80	67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 39 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 29 2c 20	gs.=.(%clone_9,.%layer_norm_7),.
75fa0	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 7c 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	kwargs.=.{})J|..pkg.torch.onnx.n
75fc0	61 6d 65 5f 73 63 6f 70 65 73 12 5e 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	ame_scopes.^['',.'bert',.'bert.e
75fe0	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c	ncoder',.'bert.encoder.layer.3',
76000	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 27 2c 20	.'bert.encoder.layer.3.output',.
76020	27 61 64 64 5f 33 36 33 27 5d 4a da 07 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	'add_363']J....pkg.torch.onnx.st
76040	61 63 6b 5f 74 72 61 63 65 12 bb 07 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
76060	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
76080	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
760a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
760c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
760e0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
76100	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
76120	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
76140	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
76160	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
76180	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
761a0	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
761c0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
761e0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
76200	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
76220	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
76240	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
76260	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
76280	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
762a0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
762c0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
762e0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.588,.in.forwa
76300	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e	rd.....layer_output.=.apply_chun
76320	6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	king_to_forward(...File."/home/h
76340	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
76360	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
76380	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
763a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66	odeling_bert.py",.line.527,.in.f
763c0	6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e	orward.....hidden_states.=.self.
763e0	4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f	LayerNorm(hidden_states.+.input_
76400	74 65 6e 73 6f 72 29 0a e6 14 0a 07 61 64 64 5f 33 36 33 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65	tensor).....add_363.,bert.encode
76420	72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68	r.layer.3.output.LayerNorm.weigh
76440	74 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c	t.*bert.encoder.layer.3.output.L
76460	61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 1a 11 6e 6f 64	ayerNorm.bias..layer_norm_8..nod
76480	65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69	e_layer_norm_8".LayerNormalizati
764a0	6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e	on*...stash_type.....*...epsilon
764c0	15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a d5	....+...*...axis..............J.
764e0	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c7 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
76500	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
76520	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
76540	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
76560	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
76580	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
765a0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 3a	ertEncoder/bert.encoder.layer.3:
765c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
765e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
76600	61 79 65 72 2e 33 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ayer.3.output:.transformers.mode
76620	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74	ls.bert.modeling_bert.BertOutput
76640	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79	/bert.encoder.layer.3.output.Lay
76660	65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69	erNorm:.torch.nn.modules.normali
76680	7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 3a 20 61	zation.LayerNorm/layer_norm_8:.a
766a0	74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e 74	ten.layer_norm.defaultJ....pkg.t
766c0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74 72	orch.onnx.class_hierarchy...['tr
766e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
76700	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
76720	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
76740	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
76760	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
76780	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
767a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
767c0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
767e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d	ng_bert.BertOutput',.'torch.nn.m
76800	6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c	odules.normalization.LayerNorm',
76820	20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 80 02 0a 16	.'aten.layer_norm.default']J....
76840	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 e5 01 25 6c 61 79 65 72 5f	pkg.torch.onnx.fx_node...%layer_
76860	6e 6f 72 6d 5f 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 34 5d 20 3d 20 63 61 6c 6c 5f 66 75	norm_8.:.[num_users=4].=.call_fu
76880	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79	nction[target=torch.ops.aten.lay
768a0	65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 33 36	er_norm.default](args.=.(%add_36
768c0	33 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	3,.[256],.%p_bert_encoder_layer_
768e0	33 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65	3_output_layernorm_weight,.%p_be
76900	72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e	rt_encoder_layer_3_output_layern
76920	6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ab	orm_bias,.1e-12),.kwargs.=.{})J.
76940	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8c 01	...pkg.torch.onnx.name_scopes...
76960	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
76980	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.3',.'bert.encod
769a0	65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	er.layer.3.output',.'bert.encode
769c0	72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61	r.layer.3.output.LayerNorm',.'la
769e0	79 65 72 5f 6e 6f 72 6d 5f 38 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	yer_norm_8']J....pkg.torch.onnx.
76a00	73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	stack_trace...File."/home/hsiang
76a20	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
76a40	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
76a60	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
76a80	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1676,.in.forwa
76aa0	72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69	rd.....outputs.=.self.bert(...Fi
76ac0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
76ae0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
76b00	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
76b20	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
76b40	65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f	e.1000,.in.forward.....encoder_o
76b60	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.self.encoder(...File."/
76b80	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
76ba0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
76bc0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
76be0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30	bert/modeling_bert.py",.line.650
76c00	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d	,.in.forward.....layer_outputs.=
76c20	20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.layer_module(...File."/home/hsi
76c40	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
76c60	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
76c80	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
76ca0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.588,.in.for
76cc0	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68	ward.....layer_output.=.apply_ch
76ce0	75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	unking_to_forward(...File."/home
76d00	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
76d20	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
76d40	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
76d60	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e	/modeling_bert.py",.line.527,.in
76d80	20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c	.forward.....hidden_states.=.sel
76da0	66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75	f.LayerNorm(hidden_states.+.inpu
76dc0	74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	t_tensor)...File."/home/hsiangni
76de0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
76e00	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
76e20	6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79	orch/nn/modules/normalization.py
76e40	22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75	",.line.229,.in.forward.....retu
76e60	72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a f3 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f	rn.F.layer_norm(.....layer_norm_
76e80	38 0a 07 76 61 6c 5f 33 35 39 12 07 76 61 6c 5f 33 36 30 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c	8..val_359..val_360..node_MatMul
76ea0	5f 33 34 32 22 06 4d 61 74 4d 75 6c 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74	_342".MatMulJ....namespace...:.t
76ec0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
76ee0	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
76f00	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
76f20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
76f40	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
76f60	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
76f80	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.4:.transformers.mode
76fa0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
76fc0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.4.attention:.
76fe0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
77000	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
77020	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.4.attention.self:.transf
77040	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
77060	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	.BertSdpaSelfAttention/bert.enco
77080	64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79	der.layer.4.attention.self.query
770a0	3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72	:.torch.nn.modules.linear.Linear
770c0	2f 6c 69 6e 65 61 72 5f 32 34 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a	/linear_24:.aten.linear.defaultJ
770e0	b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
77100	68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
77120	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
77140	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
77160	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
77180	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
771a0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
771c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
771e0	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
77200	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
77220	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
77240	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
77260	20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72	.'torch.nn.modules.linear.Linear
77280	27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b	',.'aten.linear.default']J....pk
772a0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 32	g.torch.onnx.fx_node...%linear_2
772c0	34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	4.:.[num_users=1].=.call_functio
772e0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	n[target=torch.ops.aten.linear.d
77300	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 2c 20 25	efault](args.=.(%layer_norm_8,.%
77320	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e	p_bert_encoder_layer_4_attention
77340	5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f	_self_query_weight,.%p_bert_enco
77360	64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79	der_layer_4_attention_self_query
77380	5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72	_bias),.kwargs.=.{})J....pkg.tor
773a0	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
773c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
773e0	2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	.layer.4',.'bert.encoder.layer.4
77400	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
77420	2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	.4.attention.self',.'bert.encode
77440	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c	r.layer.4.attention.self.query',
77460	20 27 6c 69 6e 65 61 72 5f 32 34 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.'linear_24']J....pkg.torch.onnx
77480	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
774a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
774c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
774e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
77500	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
77520	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
77540	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
77560	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
77580	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
775a0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
775c0	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
775e0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
77600	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
77620	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
77640	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
77660	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
77680	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
776a0	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
776c0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
776e0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
77700	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
77720	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.558,.in.fo
77740	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73	rward.....self_attention_outputs
77760	20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	.=.self.attention(...File."/home
77780	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
777a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
777c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
777e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e	/modeling_bert.py",.line.488,.in
77800	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	.forward.....self_outputs.=.self
77820	2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.self(...File."/home/hsiangniani
77840	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
77860	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
77880	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
778a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.363,.in.forward....
778c0	20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28	.self.query(hidden_states).view(
778e0	62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64	bsz,.-1,.self.num_attention_head
77900	73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61	s,.self.attention_head_size).tra
77920	6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	nspose(1,.2)...File."/home/hsian
77940	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
77960	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
77980	73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c	s/torch/nn/modules/linear.py",.l
779a0	69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46	ine.134,.in.forward.....return.F
779c0	2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66	.linear(input,.self.weight,.self
779e0	2e 62 69 61 73 29 0a 93 17 0a 07 76 61 6c 5f 33 36 30 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72	.bias).....val_360..bert.encoder
77a00	2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69	.layer.4.attention.self.query.bi
77a20	61 73 12 09 6c 69 6e 65 61 72 5f 32 34 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 34 22 03 41	as..linear_24..node_linear_24".A
77a40	64 64 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ddJ....namespace...:.transformer
77a60	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
77a80	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
77aa0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
77ac0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
77ae0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
77b00	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
77b20	72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.4:.transformers.models.bert.mo
77b40	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
77b60	65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.4.attention:.transforme
77b80	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
77ba0	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	tAttention/bert.encoder.layer.4.
77bc0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
77be0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
77c00	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	elfAttention/bert.encoder.layer.
77c20	34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e	4.attention.self.query:.torch.nn
77c40	2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 34	.modules.linear.Linear/linear_24
77c60	3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f	:.aten.linear.defaultJ....pkg.to
77c80	72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61	rch.onnx.class_hierarchy...['tra
77ca0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
77cc0	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c	ert.BertForTokenClassification',
77ce0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
77d00	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertModel',.'transforme
77d20	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
77d40	74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	tEncoder',.'transformers.models.
77d60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27	bert.modeling_bert.BertLayer',.'
77d80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
77da0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	g_bert.BertAttention',.'transfor
77dc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
77de0	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e	ertSdpaSelfAttention',.'torch.nn
77e00	2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c	.modules.linear.Linear',.'aten.l
77e20	69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	inear.default']J....pkg.torch.on
77e40	6e 78 2e 66 78 5f 6e 6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 32 34 20 3a 20 5b 6e 75 6d 5f 75	nx.fx_node...%linear_24.:.[num_u
77e60	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
77e80	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72	orch.ops.aten.linear.default](ar
77ea0	67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	gs.=.(%layer_norm_8,.%p_bert_enc
77ec0	6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72	oder_layer_4_attention_self_quer
77ee0	79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	y_weight,.%p_bert_encoder_layer_
77f00	34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77	4_attention_self_query_bias),.kw
77f20	61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
77f40	6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
77f60	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c	ncoder',.'bert.encoder.layer.4',
77f80	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.4.attention
77fa0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.4.attenti
77fc0	6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	on.self',.'bert.encoder.layer.4.
77fe0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 32	attention.self.query',.'linear_2
78000	34 27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	4']J....pkg.torch.onnx.stack_tra
78020	63 65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
78040	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
78060	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
78080	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
780a0	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
780c0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
780e0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
78100	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
78120	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
78140	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
78160	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
78180	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
781a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
781c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
781e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
78200	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
78220	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
78240	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
78260	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
78280	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
782a0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
782c0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.558,.in.forward.....
782e0	73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74	self_attention_outputs.=.self.at
78300	74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	tention(...File."/home/hsiangnia
78320	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
78340	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
78360	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
78380	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.488,.in.forward..
783a0	20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46	...self_outputs.=.self.self(...F
783c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
783e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
78400	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
78420	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
78440	6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72	ne.363,.in.forward.....self.quer
78460	79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73	y(hidden_states).view(bsz,.-1,.s
78480	65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74	elf.num_attention_heads,.self.at
784a0	74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20	tention_head_size).transpose(1,.
784c0	32 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	2)...File."/home/hsiangnianian/g
784e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
78500	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e	ython3.10/site-packages/torch/nn
78520	2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69	/modules/linear.py",.line.134,.i
78540	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e	n.forward.....return.F.linear(in
78560	70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d4 13 0a	put,.self.weight,.self.bias)....
78580	09 6c 69 6e 65 61 72 5f 32 34 0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77 5f 31 36 1a 0c 6e 6f 64	.linear_24..val_68..view_16..nod
785a0	65 5f 76 69 65 77 5f 31 36 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18	e_view_16".Reshape*...allowzero.
785c0	01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d	....J....namespace...:.transform
785e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
78600	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74	rtForTokenClassification/bert:.t
78620	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
78640	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72	_bert.BertModel/bert.encoder:.tr
78660	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
78680	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	bert.BertEncoder/bert.encoder.la
786a0	79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer.4:.transformers.models.bert.
786c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertLayer/bert.enc
786e0	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72	oder.layer.4.attention:.transfor
78700	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
78720	65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ertAttention/bert.encoder.layer.
78740	34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	4.attention.self:.transformers.m
78760	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
78780	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 36 3a 20 61 74 65 6e 2e 76 69 65	aSelfAttention/view_16:.aten.vie
787a0	77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	w.defaultJ....pkg.torch.onnx.cla
787c0	73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
787e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
78800	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
78820	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
78840	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
78860	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
78880	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
788a0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
788c0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
788e0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
78900	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
78920	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a	ttention',.'aten.view.default']J
78940	a8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69	....pkg.torch.onnx.fx_node...%vi
78960	65 77 5f 31 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ew_16.:.[num_users=1].=.call_fun
78980	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77	ction[target=torch.ops.aten.view
789a0	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 34 2c 20 5b 25	.default](args.=.(%linear_24,.[%
789c0	73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77	sym_size_int_45,.-1,.8,.32]),.kw
789e0	61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
78a00	6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
78a20	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c	ncoder',.'bert.encoder.layer.4',
78a40	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.4.attention
78a60	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.4.attenti
78a80	6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 31 36 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72	on.self',.'view_16']J....pkg.tor
78aa0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
78ac0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
78ae0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
78b00	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
78b20	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
78b40	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
78b60	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
78b80	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
78ba0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
78bc0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
78be0	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
78c00	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
78c20	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
78c40	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
78c60	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
78c80	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
78ca0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
78cc0	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
78ce0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
78d00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
78d20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
78d40	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
78d60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
78d80	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
78da0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
78dc0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
78de0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
78e00	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
78e20	34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73	488,.in.forward.....self_outputs
78e40	20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.self(...File."/home/hsia
78e60	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
78e80	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
78ea0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
78ec0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.363,.in.forw
78ee0	61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73	ard.....self.query(hidden_states
78f00	29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69	).view(bsz,.-1,.self.num_attenti
78f20	6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69	on_heads,.self.attention_head_si
78f40	7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a cd 13 0a 07 76 69 65 77 5f 31 36 12	ze).transpose(1,.2).....view_16.
78f60	0c 74 72 61 6e 73 70 6f 73 65 5f 31 36 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 36	.transpose_16..node_transpose_16
78f80	22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8	".Transpose*...perm@.@.@.@....J.
78fa0	03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
78fc0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
78fe0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
79000	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
79020	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
79040	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
79060	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a	ertEncoder/bert.encoder.layer.4:
79080	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
790a0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
790c0	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.4.attention:.transformers.m
790e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
79100	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65	ention/bert.encoder.layer.4.atte
79120	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
79140	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
79160	74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 36 3a 20 61 74 65 6e 2e 74 72 61 6e	ttention/transpose_16:.aten.tran
79180	73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	spose.intJ....pkg.torch.onnx.cla
791a0	73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
791c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
791e0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
79200	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
79220	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
79240	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
79260	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
79280	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
792a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
792c0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
792e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
79300	74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d	ttention',.'aten.transpose.int']
79320	4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72	J....pkg.torch.onnx.fx_node.x%tr
79340	61 6e 73 70 6f 73 65 5f 31 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	anspose_16.:.[num_users=1].=.cal
79360	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
79380	2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 36	.transpose.int](args.=.(%view_16
793a0	2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f	,.1,.2),.kwargs.=.{})J....pkg.to
793c0	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
793e0	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
79400	72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.4',.'bert.encoder.layer.
79420	34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	4.attention',.'bert.encoder.laye
79440	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f	r.4.attention.self',.'transpose_
79460	31 36 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	16']J....pkg.torch.onnx.stack_tr
79480	61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
794a0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
794c0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
794e0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
79500	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
79520	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
79540	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
79560	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
79580	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
795a0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
795c0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
795e0	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
79600	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
79620	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
79640	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
79660	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
79680	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
796a0	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
796c0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
796e0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
79700	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
79720	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
79740	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
79760	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
79780	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
797a0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
797c0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
797e0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
79800	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
79820	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
79840	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
79860	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
79880	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
798a0	69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65	ine.363,.in.forward.....self.que
798c0	72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20	ry(hidden_states).view(bsz,.-1,.
798e0	73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61	self.num_attention_heads,.self.a
79900	74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c	ttention_head_size).transpose(1,
79920	20 32 29 0a 98 16 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 0a 07 76 61 6c 5f 33 36 37 12 07 76	.2).....layer_norm_8..val_367..v
79940	61 6c 5f 33 36 38 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33 35 30 22 06 4d 61 74 4d 75 6c 4a	al_368..node_MatMul_350".MatMulJ
79960	ae 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a0 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	....namespace...:.transformers.m
79980	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
799a0	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66	TokenClassification/bert:.transf
799c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
799e0	2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f	.BertModel/bert.encoder:.transfo
79a00	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
79a20	42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	BertEncoder/bert.encoder.layer.4
79a40	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
79a60	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ing_bert.BertLayer/bert.encoder.
79a80	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	layer.4.attention:.transformers.
79aa0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
79ac0	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	tention/bert.encoder.layer.4.att
79ae0	65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ention.self:.transformers.models
79b00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
79b20	41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	Attention/bert.encoder.layer.4.a
79b40	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75	ttention.self.key:.torch.nn.modu
79b60	6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 35 3a 20 61 74 65	les.linear.Linear/linear_25:.ate
79b80	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	n.linear.defaultJ....pkg.torch.o
79ba0	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
79bc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
79be0	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
79c00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
79c20	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
79c40	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
79c60	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
79c80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
79ca0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
79cc0	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.BertAttention',.'transformers.
79ce0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
79d00	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75	paSelfAttention',.'torch.nn.modu
79d20	6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72	les.linear.Linear',.'aten.linear
79d40	2e 64 65 66 61 75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	.default']J....pkg.torch.onnx.fx
79d60	5f 6e 6f 64 65 12 d9 01 25 6c 69 6e 65 61 72 5f 32 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	_node...%linear_25.:.[num_users=
79d80	31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	1].=.call_function[target=torch.
79da0	6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20	ops.aten.linear.default](args.=.
79dc0	28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	(%layer_norm_8,.%p_bert_encoder_
79de0	6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68	layer_4_attention_self_key_weigh
79e00	74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e	t,.%p_bert_encoder_layer_4_atten
79e20	74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	tion_self_key_bias),.kwargs.=.{}
79e40	29 4a d4 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
79e60	12 b5 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
79e80	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.4',.'bert.en
79ea0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.4.attention',.'bert.
79ec0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.4.attention.self',
79ee0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.4.attention
79f00	2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c 69 6e 65 61 72 5f 32 35 27 5d 4a a3 0a 0a 1a 70 6b 67	.self.key',.'linear_25']J....pkg
79f20	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
79f40	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
79f60	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
79f80	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
79fa0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
79fc0	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
79fe0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
7a000	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
7a020	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
7a040	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
7a060	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
7a080	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
7a0a0	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
7a0c0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
7a0e0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
7a100	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
7a120	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
7a140	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
7a160	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
7a180	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
7a1a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
7a1c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
7a1e0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
7a200	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
7a220	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
7a240	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
7a260	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
7a280	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
7a2a0	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
7a2c0	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
7a2e0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
7a300	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
7a320	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
7a340	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20	modeling_bert.py",.line.387,.in.
7a360	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61	forward.....self.key(current_sta
7a380	74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	tes)...File."/home/hsiangnianian
7a3a0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
7a3c0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f	/python3.10/site-packages/torch/
7a3e0	6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c	nn/modules/linear.py",.line.134,
7a400	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28	.in.forward.....return.F.linear(
7a420	69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a b6	input,.self.weight,.self.bias)..
7a440	16 0a 07 76 61 6c 5f 33 36 38 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	...val_368.,bert.encoder.layer.4
7a460	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72	.attention.self.key.bias..linear
7a480	5f 32 35 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 35 22 03 41 64 64 4a ae 04 0a 09 6e 61 6d	_25..node_linear_25".AddJ....nam
7a4a0	65 73 70 61 63 65 12 a0 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
7a4c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
7a4e0	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
7a500	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
7a520	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
7a540	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
7a560	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.4:.trans
7a580	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
7a5a0	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	t.BertLayer/bert.encoder.layer.4
7a5c0	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
7a5e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
7a600	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.4.attention.
7a620	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
7a640	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
7a660	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.4.attentio
7a680	6e 2e 73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	n.self.key:.torch.nn.modules.lin
7a6a0	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	ear.Linear/linear_25:.aten.linea
7a6c0	72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
7a6e0	73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
7a700	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
7a720	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
7a740	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
7a760	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
7a780	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
7a7a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
7a7c0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
7a7e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
7a800	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
7a820	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
7a840	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	ttention',.'torch.nn.modules.lin
7a860	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
7a880	74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9	t']J....pkg.torch.onnx.fx_node..
7a8a0	01 25 6c 69 6e 65 61 72 5f 32 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	.%linear_25.:.[num_users=1].=.ca
7a8c0	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
7a8e0	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72	n.linear.default](args.=.(%layer
7a900	5f 6e 6f 72 6d 5f 38 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34	_norm_8,.%p_bert_encoder_layer_4
7a920	5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62	_attention_self_key_weight,.%p_b
7a940	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65	ert_encoder_layer_4_attention_se
7a960	6c 66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70	lf_key_bias),.kwargs.=.{})J....p
7a980	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
7a9a0	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
7a9c0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.4',.'bert.encoder.l
7a9e0	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayer.4.attention',.'bert.encoder
7aa00	2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e	.layer.4.attention.self',.'bert.
7aa20	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b	encoder.layer.4.attention.self.k
7aa40	65 79 27 2c 20 27 6c 69 6e 65 61 72 5f 32 35 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	ey',.'linear_25']J....pkg.torch.
7aa60	6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	onnx.stack_trace...File."/home/h
7aa80	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
7aaa0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
7aac0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
7aae0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20	odeling_bert.py",.line.1676,.in.
7ab00	66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28	forward.....outputs.=.self.bert(
7ab20	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
7ab40	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
7ab60	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
7ab80	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
7aba0	2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f	,.line.1000,.in.forward.....enco
7abc0	64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69	der_outputs.=.self.encoder(...Fi
7abe0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
7ac00	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
7ac20	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
7ac40	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
7ac60	65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70	e.650,.in.forward.....layer_outp
7ac80	75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.layer_module(...File."/hom
7aca0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
7acc0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
7ace0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
7ad00	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69	t/modeling_bert.py",.line.558,.i
7ad20	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74	n.forward.....self_attention_out
7ad40	70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f	puts.=.self.attention(...File."/
7ad60	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
7ad80	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
7ada0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
7adc0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38	bert/modeling_bert.py",.line.488
7ade0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20	,.in.forward.....self_outputs.=.
7ae00	73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.self(...File."/home/hsiangn
7ae20	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
7ae40	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
7ae60	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
7ae80	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.387,.in.forward
7aea0	0a 20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20	.....self.key(current_states)...
7aec0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
7aee0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
7af00	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75	3.10/site-packages/torch/nn/modu
7af20	6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72	les/linear.py",.line.134,.in.for
7af40	77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20	ward.....return.F.linear(input,.
7af60	73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a ab 13 0a 09 6c 69 6e 65	self.weight,.self.bias).....line
7af80	61 72 5f 32 35 0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77 5f 31 37 1a 0c 6e 6f 64 65 5f 76 69 65	ar_25..val_68..view_17..node_vie
7afa0	77 5f 31 37 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a	w_17".Reshape*...allowzero.....J
7afc0	e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	....namespace...:.transformers.m
7afe0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
7b000	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66	TokenClassification/bert:.transf
7b020	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
7b040	2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f	.BertModel/bert.encoder:.transfo
7b060	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7b080	42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	BertEncoder/bert.encoder.layer.4
7b0a0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
7b0c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	ing_bert.BertLayer/bert.encoder.
7b0e0	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	layer.4.attention:.transformers.
7b100	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
7b120	74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	tention/bert.encoder.layer.4.att
7b140	65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ention.self:.transformers.models
7b160	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
7b180	41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 37 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66	Attention/view_17:.aten.view.def
7b1a0	61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
7b1c0	65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
7b1e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
7b200	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
7b220	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
7b240	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
7b260	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
7b280	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
7b2a0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
7b2c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
7b2e0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
7b300	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
7b320	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70	ion',.'aten.view.default']J....p
7b340	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 31 37	kg.torch.onnx.fx_node...%view_17
7b360	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
7b380	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61	[target=torch.ops.aten.view.defa
7b3a0	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 35 2c 20 5b 25 73 79 6d 5f 73	ult](args.=.(%linear_25,.[%sym_s
7b3c0	69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20	ize_int_45,.-1,.8,.32]),.kwargs.
7b3e0	3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63	=.{})J....pkg.torch.onnx.name_sc
7b400	6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	opes...['',.'bert',.'bert.encode
7b420	72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72	r',.'bert.encoder.layer.4',.'ber
7b440	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62	t.encoder.layer.4.attention',.'b
7b460	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
7b480	6c 66 27 2c 20 27 76 69 65 77 5f 31 37 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	lf',.'view_17']J....pkg.torch.on
7b4a0	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
7b4c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
7b4e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
7b500	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
7b520	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
7b540	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
7b560	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
7b580	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
7b5a0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
7b5c0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
7b5e0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
7b600	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
7b620	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
7b640	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
7b660	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
7b680	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
7b6a0	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
7b6c0	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
7b6e0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
7b700	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
7b720	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
7b740	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
7b760	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
7b780	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
7b7a0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
7b7c0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
7b7e0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
7b800	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20	rt/modeling_bert.py",.line.488,.
7b820	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	in.forward.....self_outputs.=.se
7b840	6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.self(...File."/home/hsiangnia
7b860	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
7b880	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
7b8a0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
7b8c0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.388,.in.forward..
7b8e0	20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e	....view(bsz,.-1,.self.num_atten
7b900	74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f	tion_heads,.self.attention_head_
7b920	73 69 7a 65 29 0a f2 12 0a 07 76 69 65 77 5f 31 37 12 0c 74 72 61 6e 73 70 6f 73 65 5f 31 37 1a	size).....view_17..transpose_17.
7b940	11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 37 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a	.node_transpose_17".Transpose*..
7b960	04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da	.perm@.@.@.@....J....namespace..
7b980	03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
7b9a0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
7b9c0	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
7b9e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
7ba00	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
7ba20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
7ba40	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.4:.transformers.
7ba60	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
7ba80	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.4.attenti
7baa0	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
7bac0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
7bae0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.4.attention.self:.tr
7bb00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
7bb20	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73	bert.BertSdpaSelfAttention/trans
7bb40	70 6f 73 65 5f 31 37 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e	pose_17:.aten.transpose.intJ....
7bb60	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1	pkg.torch.onnx.class_hierarchy..
7bb80	02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
7bba0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
7bbc0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
7bbe0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
7bc00	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
7bc20	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
7bc40	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
7bc60	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
7bc80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72	odeling_bert.BertAttention',.'tr
7bca0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
7bcc0	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74	bert.BertSdpaSelfAttention',.'at
7bce0	65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63 68	en.transpose.int']J....pkg.torch
7bd00	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 20 3a 20 5b	.onnx.fx_node.x%transpose_17.:.[
7bd20	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
7bd40	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74	get=torch.ops.aten.transpose.int
7bd60	5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 37 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67	](args.=.(%view_17,.1,.2),.kwarg
7bd80	73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
7bda0	73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
7bdc0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62	der',.'bert.encoder.layer.4',.'b
7bde0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.4.attention',.
7be00	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
7be20	73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 37 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74	self',.'transpose_17']J....pkg.t
7be40	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
7be60	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
7be80	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
7bea0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
7bec0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
7bee0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
7bf00	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
7bf20	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
7bf40	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
7bf60	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
7bf80	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
7bfa0	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
7bfc0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
7bfe0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
7c000	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
7c020	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
7c040	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
7c060	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
7c080	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
7c0a0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
7c0c0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
7c0e0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
7c100	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
7c120	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
7c140	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
7c160	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
7c180	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
7c1a0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
7c1c0	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
7c1e0	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
7c200	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
7c220	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
7c240	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
7c260	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 39 2c 20 69 6e 20 66 6f	deling_bert.py",.line.389,.in.fo
7c280	72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a a2 16 0a 0c 6c	rward......transpose(1,.2).....l
7c2a0	61 79 65 72 5f 6e 6f 72 6d 5f 38 0a 07 76 61 6c 5f 33 37 35 12 07 76 61 6c 5f 33 37 36 1a 0f 6e	ayer_norm_8..val_375..val_376..n
7c2c0	6f 64 65 5f 4d 61 74 4d 75 6c 5f 33 35 38 22 06 4d 61 74 4d 75 6c 4a b0 04 0a 09 6e 61 6d 65 73	ode_MatMul_358".MatMulJ....names
7c2e0	70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
7c300	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
7c320	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
7c340	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
7c360	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
7c380	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
7c3a0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.4:.transfo
7c3c0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7c3e0	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	BertLayer/bert.encoder.layer.4.a
7c400	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
7c420	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
7c440	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
7c460	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
7c480	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
7c4a0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.4.attention.
7c4c0	73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	self.value:.torch.nn.modules.lin
7c4e0	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 36 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	ear.Linear/linear_26:.aten.linea
7c500	72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
7c520	73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
7c540	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
7c560	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
7c580	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
7c5a0	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
7c5c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
7c5e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
7c600	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
7c620	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
7c640	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
7c660	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
7c680	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	ttention',.'torch.nn.modules.lin
7c6a0	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
7c6c0	74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dd	t']J....pkg.torch.onnx.fx_node..
7c6e0	01 25 6c 69 6e 65 61 72 5f 32 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	.%linear_26.:.[num_users=1].=.ca
7c700	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
7c720	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72	n.linear.default](args.=.(%layer
7c740	5f 6e 6f 72 6d 5f 38 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34	_norm_8,.%p_bert_encoder_layer_4
7c760	5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70	_attention_self_value_weight,.%p
7c780	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_4_attention_
7c7a0	73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6	self_value_bias),.kwargs.=.{})J.
7c7c0	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01	...pkg.torch.onnx.name_scopes...
7c7e0	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
7c800	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.4',.'bert.encod
7c820	65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.4.attention',.'bert.enc
7c840	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62	oder.layer.4.attention.self',.'b
7c860	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
7c880	6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 36 27 5d 4a a5 0a 0a 1a 70 6b 67 2e	lf.value',.'linear_26']J....pkg.
7c8a0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
7c8c0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
7c8e0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
7c900	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
7c920	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
7c940	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
7c960	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
7c980	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
7c9a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
7c9c0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
7c9e0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
7ca00	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
7ca20	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
7ca40	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
7ca60	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
7ca80	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
7caa0	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
7cac0	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
7cae0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
7cb00	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
7cb20	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
7cb40	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
7cb60	35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69	558,.in.forward.....self_attenti
7cb80	6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46	on_outputs.=.self.attention(...F
7cba0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
7cbc0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
7cbe0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
7cc00	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
7cc20	6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70	ne.488,.in.forward.....self_outp
7cc40	75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.self(...File."/home/h
7cc60	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
7cc80	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
7cca0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
7ccc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66	odeling_bert.py",.line.392,.in.f
7cce0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74	orward.....self.value(current_st
7cd00	61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ates)...File."/home/hsiangniania
7cd20	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
7cd40	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68	b/python3.10/site-packages/torch
7cd60	2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34	/nn/modules/linear.py",.line.134
7cd80	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72	,.in.forward.....return.F.linear
7cda0	28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a	(input,.self.weight,.self.bias).
7cdc0	c2 16 0a 07 76 61 6c 5f 33 37 36 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	....val_376..bert.encoder.layer.
7cde0	34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 09 6c 69 6e	4.attention.self.value.bias..lin
7ce00	65 61 72 5f 32 36 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 36 22 03 41 64 64 4a b0 04 0a 09	ear_26..node_linear_26".AddJ....
7ce20	6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
7ce40	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
7ce60	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
7ce80	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
7cea0	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
7cec0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
7cee0	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72	Encoder/bert.encoder.layer.4:.tr
7cf00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
7cf20	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
7cf40	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	r.4.attention:.transformers.mode
7cf60	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
7cf80	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.4.attenti
7cfa0	6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on.self:.transformers.models.ber
7cfc0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
7cfe0	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	ntion/bert.encoder.layer.4.atten
7d000	74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	tion.self.value:.torch.nn.module
7d020	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 36 3a 20 61 74 65 6e 2e	s.linear.Linear/linear_26:.aten.
7d040	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	linear.defaultJ....pkg.torch.onn
7d060	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
7d080	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
7d0a0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
7d0c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
7d0e0	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
7d100	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
7d120	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
7d140	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
7d160	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7d180	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
7d1a0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
7d1c0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	SelfAttention',.'torch.nn.module
7d1e0	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	s.linear.Linear',.'aten.linear.d
7d200	65 66 61 75 6c 74 27 5d 4a f8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
7d220	6f 64 65 12 dd 01 25 6c 69 6e 65 61 72 5f 32 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d	ode...%linear_26.:.[num_users=1]
7d240	20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70	.=.call_function[target=torch.op
7d260	73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	s.aten.linear.default](args.=.(%
7d280	6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	layer_norm_8,.%p_bert_encoder_la
7d2a0	79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68	yer_4_attention_self_value_weigh
7d2c0	74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e	t,.%p_bert_encoder_layer_4_atten
7d2e0	74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20	tion_self_value_bias),.kwargs.=.
7d300	7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
7d320	65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
7d340	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.4',.'bert.
7d360	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.4.attention',.'ber
7d380	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.4.attention.self
7d3a0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.4.attenti
7d3c0	6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 36 27 5d 4a a5 0a 0a	on.self.value',.'linear_26']J...
7d3e0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69	.pkg.torch.onnx.stack_trace...Fi
7d400	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
7d420	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
7d440	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
7d460	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
7d480	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
7d4a0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
7d4c0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
7d4e0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
7d500	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
7d520	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
7d540	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
7d560	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
7d580	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
7d5a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
7d5c0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
7d5e0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
7d600	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
7d620	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
7d640	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
7d660	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
7d680	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
7d6a0	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
7d6c0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
7d6e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
7d700	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
7d720	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
7d740	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
7d760	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
7d780	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
7d7a0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
7d7c0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
7d7e0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
7d800	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c	ert/modeling_bert.py",.line.392,
7d820	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65	.in.forward.....self.value(curre
7d840	6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	nt_states)...File."/home/hsiangn
7d860	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
7d880	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
7d8a0	74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e	torch/nn/modules/linear.py",.lin
7d8c0	65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c	e.134,.in.forward.....return.F.l
7d8e0	69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62	inear(input,.self.weight,.self.b
7d900	69 61 73 29 0a ab 13 0a 09 6c 69 6e 65 61 72 5f 32 36 0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77	ias).....linear_26..val_68..view
7d920	5f 31 38 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 31 38 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c	_18..node_view_18".Reshape*...al
7d940	6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74	lowzero.....J....namespace...:.t
7d960	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
7d980	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
7d9a0	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
7d9c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
7d9e0	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
7da00	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
7da20	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.4:.transformers.mode
7da40	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
7da60	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.4.attention:.
7da80	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
7daa0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
7dac0	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66	r.layer.4.attention.self:.transf
7dae0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
7db00	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 38 3a 20	.BertSdpaSelfAttention/view_18:.
7db20	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e	aten.view.defaultJ....pkg.torch.
7db40	6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f	onnx.class_hierarchy...['transfo
7db60	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7db80	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72	BertForTokenClassification',.'tr
7dba0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
7dbc0	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertModel',.'transformers.m
7dbe0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
7dc00	6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	oder',.'transformers.models.bert
7dc20	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e	.modeling_bert.BertLayer',.'tran
7dc40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
7dc60	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	rt.BertAttention',.'transformers
7dc80	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
7dca0	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65	dpaSelfAttention',.'aten.view.de
7dcc0	66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
7dce0	64 65 12 8d 01 25 76 69 65 77 5f 31 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	de...%view_18.:.[num_users=1].=.
7dd00	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
7dd20	74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61	ten.view.default](args.=.(%linea
7dd40	72 5f 32 36 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20	r_26,.[%sym_size_int_45,.-1,.8,.
7dd60	33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	32]),.kwargs.=.{})J....pkg.torch
7dd80	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
7dda0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
7ddc0	61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	ayer.4',.'bert.encoder.layer.4.a
7dde0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	ttention',.'bert.encoder.layer.4
7de00	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 31 38 27 5d 4a 93 09 0a	.attention.self',.'view_18']J...
7de20	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69	.pkg.torch.onnx.stack_trace...Fi
7de40	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
7de60	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
7de80	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
7dea0	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
7dec0	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
7dee0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
7df00	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
7df20	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
7df40	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
7df60	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
7df80	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
7dfa0	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
7dfc0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
7dfe0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
7e000	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
7e020	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
7e040	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
7e060	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
7e080	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
7e0a0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
7e0c0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
7e0e0	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
7e100	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
7e120	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
7e140	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
7e160	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
7e180	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
7e1a0	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
7e1c0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
7e1e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
7e200	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
7e220	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
7e240	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 33 2c	ert/modeling_bert.py",.line.393,
7e260	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73	.in.forward......view(bsz,.-1,.s
7e280	65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74	elf.num_attention_heads,.self.at
7e2a0	74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a f2 12 0a 07 76 69 65 77 5f 31 38 12 0c	tention_head_size).....view_18..
7e2c0	74 72 61 6e 73 70 6f 73 65 5f 31 38 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 38 22	transpose_18..node_transpose_18"
7e2e0	09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03	.Transpose*...perm@.@.@.@....J..
7e300	0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
7e320	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
7e340	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
7e360	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
7e380	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
7e3a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
7e3c0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20	rtEncoder/bert.encoder.layer.4:.
7e3e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
7e400	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
7e420	79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.4.attention:.transformers.mo
7e440	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
7e460	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	ntion/bert.encoder.layer.4.atten
7e480	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
7e4a0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
7e4c0	74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 31 38 3a 20 61 74 65 6e 2e 74 72 61 6e 73	tention/transpose_18:.aten.trans
7e4e0	70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	pose.intJ....pkg.torch.onnx.clas
7e500	73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
7e520	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
7e540	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
7e560	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
7e580	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
7e5a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
7e5c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
7e5e0	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
7e600	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
7e620	74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tention',.'transformers.models.b
7e640	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
7e660	74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a	tention',.'aten.transpose.int']J
7e680	92 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61	....pkg.torch.onnx.fx_node.x%tra
7e6a0	6e 73 70 6f 73 65 5f 31 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	nspose_18.:.[num_users=1].=.call
7e6c0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
7e6e0	74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 38 2c	transpose.int](args.=.(%view_18,
7e700	20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72	.1,.2),.kwargs.=.{})J....pkg.tor
7e720	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
7e740	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
7e760	2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	.layer.4',.'bert.encoder.layer.4
7e780	2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.attention',.'bert.encoder.layer
7e7a0	2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31	.4.attention.self',.'transpose_1
7e7c0	38 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	8']J....pkg.torch.onnx.stack_tra
7e7e0	63 65 12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
7e800	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
7e820	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
7e840	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
7e860	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
7e880	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
7e8a0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
7e8c0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
7e8e0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
7e900	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
7e920	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
7e940	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
7e960	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
7e980	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
7e9a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
7e9c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
7e9e0	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
7ea00	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
7ea20	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
7ea40	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
7ea60	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
7ea80	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.558,.in.forward.....
7eaa0	73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74	self_attention_outputs.=.self.at
7eac0	74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	tention(...File."/home/hsiangnia
7eae0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
7eb00	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
7eb20	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
7eb40	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.488,.in.forward..
7eb60	20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46	...self_outputs.=.self.self(...F
7eb80	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
7eba0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
7ebc0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
7ebe0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
7ec00	6e 65 20 33 39 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73	ne.394,.in.forward......transpos
7ec20	65 28 31 2c 20 32 29 0a bc 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 37 12 07 76 61 6c 5f 33 39	e(1,.2).....transpose_17..val_39
7ec40	32 1a 0e 6e 6f 64 65 5f 53 68 61 70 65 5f 33 37 34 22 05 53 68 61 70 65 2a 0c 0a 05 73 74 61 72	2..node_Shape_374".Shape*...star
7ec60	74 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f	t.....J....namespace...:.transfo
7ec80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7eca0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
7ecc0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
7ece0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
7ed00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
7ed20	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
7ed40	6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.4:.transformers.models.ber
7ed60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
7ed80	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.4.attention:.transf
7eda0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
7edc0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
7ede0	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.4.attention.self:.transformers
7ee00	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
7ee20	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	dpaSelfAttention/scaled_dot_prod
7ee40	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	uct_attention_4:.aten.scaled_dot
7ee60	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70	_product_attention.defaultJ....p
7ee80	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03	kg.torch.onnx.class_hierarchy...
7eea0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
7eec0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
7eee0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
7ef00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
7ef20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
7ef40	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
7ef60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
7ef80	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
7efa0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
7efc0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
7efe0	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
7f000	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
7f020	65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
7f040	6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ode...%scaled_dot_product_attent
7f060	69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ion_4.:.[num_users=1].=.call_fun
7f080	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c	ction[target=torch.ops.aten.scal
7f0a0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
7f0c0	5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70	](args.=.(%transpose_16,.%transp
7f0e0	6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66	ose_17,.%transpose_18,.%masked_f
7f100	69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ill),.kwargs.=.{})J....pkg.torch
7f120	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
7f140	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
7f160	61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	ayer.4',.'bert.encoder.layer.4.a
7f180	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	ttention',.'bert.encoder.layer.4
7f1a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	.attention.self',.'scaled_dot_pr
7f1c0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63	oduct_attention_4']J....pkg.torc
7f1e0	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
7f200	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
7f220	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
7f240	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
7f260	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
7f280	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
7f2a0	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
7f2c0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
7f2e0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
7f300	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
7f320	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
7f340	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
7f360	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
7f380	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
7f3a0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
7f3c0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
7f3e0	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
7f400	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
7f420	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
7f440	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
7f460	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
7f480	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
7f4a0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
7f4c0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
7f4e0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
7f500	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
7f520	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
7f540	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
7f560	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
7f580	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
7f5a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
7f5c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
7f5e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
7f600	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.413,.in.forwa
7f620	72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75	rd.....attn_output.=.torch.nn.fu
7f640	6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	nctional.scaled_dot_product_atte
7f660	6e 74 69 6f 6e 28 0a b9 14 0a 07 76 61 6c 5f 33 39 32 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f	ntion(.....val_392..val_65..val_
7f680	39 35 12 07 76 61 6c 5f 33 39 34 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 33 37 36 22 05 53 6c 69	95..val_394..node_Slice_376".Sli
7f6a0	63 65 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ceJ....namespace...:.transformer
7f6c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
7f6e0	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
7f700	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
7f720	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
7f740	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
7f760	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
7f780	72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.4:.transformers.models.bert.mo
7f7a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
7f7c0	65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.4.attention:.transforme
7f7e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
7f800	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	tAttention/bert.encoder.layer.4.
7f820	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
7f840	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
7f860	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	elfAttention/scaled_dot_product_
7f880	61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention_4:.aten.scaled_dot_pro
7f8a0	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74	duct_attention.defaultJ....pkg.t
7f8c0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
7f8e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
7f900	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
7f920	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
7f940	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
7f960	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
7f980	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
7f9a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
7f9c0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
7f9e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
7fa00	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
7fa20	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63	BertSdpaSelfAttention',.'aten.sc
7fa40	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
7fa60	6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
7fa80	cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	..%scaled_dot_product_attention_
7faa0	34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	4.:.[num_users=1].=.call_functio
7fac0	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
7fae0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
7fb00	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	gs.=.(%transpose_16,.%transpose_
7fb20	31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29	17,.%transpose_18,.%masked_fill)
7fb40	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
7fb60	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
7fb80	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
7fba0	2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	.4',.'bert.encoder.layer.4.atten
7fbc0	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	tion',.'bert.encoder.layer.4.att
7fbe0	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ention.self',.'scaled_dot_produc
7fc00	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	t_attention_4']J....pkg.torch.on
7fc20	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
7fc40	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
7fc60	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
7fc80	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
7fca0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
7fcc0	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
7fce0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
7fd00	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
7fd20	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
7fd40	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
7fd60	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
7fd80	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
7fda0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
7fdc0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
7fde0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
7fe00	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
7fe20	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
7fe40	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
7fe60	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
7fe80	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
7fea0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
7fec0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
7fee0	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
7ff00	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
7ff20	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
7ff40	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
7ff60	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
7ff80	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20	rt/modeling_bert.py",.line.488,.
7ffa0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	in.forward.....self_outputs.=.se
7ffc0	6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.self(...File."/home/hsiangnia
7ffe0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
80000	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
80020	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
80040	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.413,.in.forward..
80060	20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69	...attn_output.=.torch.nn.functi
80080	6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	onal.scaled_dot_product_attentio
800a0	6e 28 0a b9 14 0a 07 76 61 6c 5f 33 39 32 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f 36 35 12 07	n(.....val_392..val_98..val_65..
800c0	76 61 6c 5f 33 39 35 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 33 37 37 22 05 53 6c 69 63 65 4a 91	val_395..node_Slice_377".SliceJ.
800e0	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
80100	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
80120	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
80140	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
80160	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
80180	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
801a0	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a	ertEncoder/bert.encoder.layer.4:
801c0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
801e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
80200	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.4.attention:.transformers.m
80220	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
80240	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65	ention/bert.encoder.layer.4.atte
80260	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
80280	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
802a0	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
802c0	6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_4:.aten.scaled_dot_product
802e0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
80300	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
80320	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
80340	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
80360	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
80380	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
803a0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
803c0	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
803e0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
80400	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
80420	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
80440	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
80460	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
80480	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
804a0	4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73	J....pkg.torch.onnx.fx_node...%s
804c0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20	caled_dot_product_attention_4.:.
804e0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
80500	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
80520	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
80540	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20	.(%transpose_16,.%transpose_17,.
80560	25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	%transpose_18,.%masked_fill),.kw
80580	61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
805a0	6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
805c0	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c	ncoder',.'bert.encoder.layer.4',
805e0	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.4.attention
80600	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.4.attenti
80620	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
80640	74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	tention_4']J....pkg.torch.onnx.s
80660	74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
80680	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
806a0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
806c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
806e0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
80700	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
80720	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
80740	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
80760	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
80780	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
807a0	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
807c0	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
807e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
80800	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
80820	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
80840	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
80860	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
80880	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
808a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
808c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
808e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
80900	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
80920	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
80940	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
80960	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
80980	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
809a0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
809c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
809e0	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
80a00	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
80a20	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
80a40	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
80a60	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
80a80	2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61	.py",.line.413,.in.forward.....a
80aa0	74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c	ttn_output.=.torch.nn.functional
80ac0	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba	.scaled_dot_product_attention(..
80ae0	14 0a 07 76 61 6c 5f 33 39 32 0a 07 76 61 6c 5f 31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76 61 6c	...val_392..val_100..val_98..val
80b00	5f 33 39 37 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 33 37 39 22 05 53 6c 69 63 65 4a 91 04 0a 09	_397..node_Slice_379".SliceJ....
80b20	6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
80b40	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
80b60	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
80b80	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
80ba0	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
80bc0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
80be0	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72	Encoder/bert.encoder.layer.4:.tr
80c00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
80c20	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
80c40	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	r.4.attention:.transformers.mode
80c60	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
80c80	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.4.attenti
80ca0	6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on.self:.transformers.models.ber
80cc0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
80ce0	6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ntion/scaled_dot_product_attenti
80d00	6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on_4:.aten.scaled_dot_product_at
80d20	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	tention.defaultJ....pkg.torch.on
80d40	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
80d60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
80d80	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
80da0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
80dc0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
80de0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
80e00	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
80e20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
80e40	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
80e60	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
80e80	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
80ea0	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	aSelfAttention',.'aten.scaled_do
80ec0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01	t_product_attention.default']J..
80ee0	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c	..pkg.torch.onnx.fx_node...%scal
80f00	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75	ed_dot_product_attention_4.:.[nu
80f20	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
80f40	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	t=torch.ops.aten.scaled_dot_prod
80f60	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	uct_attention.default](args.=.(%
80f80	74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72	transpose_16,.%transpose_17,.%tr
80fa0	61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	anspose_18,.%masked_fill),.kwarg
80fc0	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
80fe0	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
81000	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62	der',.'bert.encoder.layer.4',.'b
81020	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.4.attention',.
81040	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
81060	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
81080	74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_4']J....pkg.torch.onnx.stac
810a0	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
810c0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
810e0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
81100	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
81120	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
81140	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
81160	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
81180	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
811a0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
811c0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
811e0	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
81200	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
81220	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
81240	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
81260	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
81280	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
812a0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
812c0	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
812e0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
81300	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
81320	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
81340	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
81360	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
81380	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
813a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
813c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
813e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
81400	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
81420	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
81440	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
81460	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
81480	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
814a0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
814c0	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
814e0	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
81500	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c9 14 0a 06	aled_dot_product_attention(.....
81520	76 61 6c 5f 36 35 0a 07 76 61 6c 5f 33 39 35 0a 07 76 61 6c 5f 33 39 34 12 07 76 61 6c 5f 33 39	val_65..val_395..val_394..val_39
81540	39 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 33 38 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78	9..node_Concat_381".Concat*...ax
81560	69 73 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66	is.....J....namespace...:.transf
81580	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
815a0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
815c0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
815e0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
81600	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
81620	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
81640	2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.4:.transformers.models.be
81660	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
81680	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.4.attention:.trans
816a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
816c0	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
816e0	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.4.attention.self:.transformer
81700	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
81720	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
81740	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	duct_attention_4:.aten.scaled_do
81760	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e	t_product_attention.defaultJ....
81780	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88	pkg.torch.onnx.class_hierarchy..
817a0	03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
817c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
817e0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
81800	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
81820	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
81840	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
81860	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
81880	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
818a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72	odeling_bert.BertAttention',.'tr
818c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
818e0	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74	bert.BertSdpaSelfAttention',.'at
81900	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
81920	64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
81940	6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	node...%scaled_dot_product_atten
81960	74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	tion_4.:.[num_users=1].=.call_fu
81980	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61	nction[target=torch.ops.aten.sca
819a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
819c0	74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73	t](args.=.(%transpose_16,.%trans
819e0	70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f	pose_17,.%transpose_18,.%masked_
81a00	66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63	fill),.kwargs.=.{})J....pkg.torc
81a20	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
81a40	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
81a60	6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	layer.4',.'bert.encoder.layer.4.
81a80	61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	attention',.'bert.encoder.layer.
81aa0	34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70	4.attention.self',.'scaled_dot_p
81ac0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72	roduct_attention_4']J....pkg.tor
81ae0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
81b00	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
81b20	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
81b40	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
81b60	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
81b80	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
81ba0	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
81bc0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
81be0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
81c00	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
81c20	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
81c40	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
81c60	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
81c80	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
81ca0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
81cc0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
81ce0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
81d00	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
81d20	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
81d40	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
81d60	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
81d80	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
81da0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
81dc0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
81de0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
81e00	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
81e20	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
81e40	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
81e60	34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73	488,.in.forward.....self_outputs
81e80	20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.self(...File."/home/hsia
81ea0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
81ec0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
81ee0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
81f00	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.413,.in.forw
81f20	61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66	ard.....attn_output.=.torch.nn.f
81f40	75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	unctional.scaled_dot_product_att
81f60	65 6e 74 69 6f 6e 28 0a cd 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 37 0a 07 76 61 6c 5f 33 39	ention(.....transpose_17..val_39
81f80	39 12 07 76 61 6c 5f 34 30 30 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 33 38 32 22 07 52 65	9..val_400..node_Reshape_382".Re
81fa0	73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65	shape*...allowzero.....J....name
81fc0	73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
81fe0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
82000	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
82020	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
82040	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
82060	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
82080	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.4:.transf
820a0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
820c0	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	.BertLayer/bert.encoder.layer.4.
820e0	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
82100	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
82120	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.4.attention.s
82140	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
82160	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
82180	6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34	n/scaled_dot_product_attention_4
821a0	3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	:.aten.scaled_dot_product_attent
821c0	69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	ion.defaultJ....pkg.torch.onnx.c
821e0	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
82200	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
82220	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
82240	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
82260	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
82280	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
822a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
822c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
822e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
82300	74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tAttention',.'transformers.model
82320	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
82340	66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	fAttention',.'aten.scaled_dot_pr
82360	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b	oduct_attention.default']J....pk
82380	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64	g.torch.onnx.fx_node...%scaled_d
823a0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73	ot_product_attention_4.:.[num_us
823c0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
823e0	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	rch.ops.aten.scaled_dot_product_
82400	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e	attention.default](args.=.(%tran
82420	73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70	spose_16,.%transpose_17,.%transp
82440	6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20	ose_18,.%masked_fill),.kwargs.=.
82460	7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
82480	65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
824a0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.4',.'bert.
824c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.4.attention',.'ber
824e0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.4.attention.self
82500	27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	',.'scaled_dot_product_attention
82520	5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	_4']J....pkg.torch.onnx.stack_tr
82540	61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
82560	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
82580	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
825a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
825c0	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
825e0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
82600	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
82620	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
82640	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
82660	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
82680	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
826a0	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
826c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
826e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
82700	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
82720	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
82740	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
82760	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
82780	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
827a0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
827c0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
827e0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
82800	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
82820	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
82840	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
82860	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
82880	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
828a0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
828c0	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
828e0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
82900	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
82920	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
82940	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
82960	69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74	ine.413,.in.forward.....attn_out
82980	70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64	put.=.torch.nn.functional.scaled
829a0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c2 14 0a 07 76 61 6c 5f	_dot_product_attention(.....val_
829c0	34 30 30 12 07 76 61 6c 5f 34 30 31 1a 12 6e 6f 64 65 5f 54 72 61 6e 73 70 6f 73 65 5f 33 38 33	400..val_401..node_Transpose_383
829e0	22 09 54 72 61 6e 73 70 6f 73 65 2a 0f 0a 04 70 65 72 6d 40 00 40 02 40 01 a0 01 07 4a 91 04 0a	".Transpose*...perm@.@.@....J...
82a00	09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
82a20	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
82a40	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
82a60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
82a80	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
82aa0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
82ac0	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74	tEncoder/bert.encoder.layer.4:.t
82ae0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
82b00	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
82b20	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	er.4.attention:.transformers.mod
82b40	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e	els.bert.modeling_bert.BertAtten
82b60	74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74	tion/bert.encoder.layer.4.attent
82b80	69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ion.self:.transformers.models.be
82ba0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
82bc0	65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ention/scaled_dot_product_attent
82be0	69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion_4:.aten.scaled_dot_product_a
82c00	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f	ttention.defaultJ....pkg.torch.o
82c20	6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72	nnx.class_hierarchy...['transfor
82c40	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
82c60	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61	ertForTokenClassification',.'tra
82c80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
82ca0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertModel',.'transformers.mo
82cc0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
82ce0	64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	der',.'transformers.models.bert.
82d00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertLayer',.'trans
82d20	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
82d40	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.BertAttention',.'transformers.
82d60	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
82d80	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	paSelfAttention',.'aten.scaled_d
82da0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7	ot_product_attention.default']J.
82dc0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61	...pkg.torch.onnx.fx_node...%sca
82de0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e	led_dot_product_attention_4.:.[n
82e00	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
82e20	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	et=torch.ops.aten.scaled_dot_pro
82e40	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	duct_attention.default](args.=.(
82e60	25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74	%transpose_16,.%transpose_17,.%t
82e80	72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72	ranspose_18,.%masked_fill),.kwar
82ea0	67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65	gs.=.{})J....pkg.torch.onnx.name
82ec0	5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63	_scopes...['',.'bert',.'bert.enc
82ee0	6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27	oder',.'bert.encoder.layer.4',.'
82f00	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c	bert.encoder.layer.4.attention',
82f20	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.4.attention
82f40	2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	.self',.'scaled_dot_product_atte
82f60	6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	ntion_4']J....pkg.torch.onnx.sta
82f80	63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
82fa0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
82fc0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
82fe0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
83000	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
83020	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
83040	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
83060	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
83080	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
830a0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
830c0	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
830e0	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
83100	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
83120	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
83140	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
83160	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
83180	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
831a0	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
831c0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
831e0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
83200	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
83220	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.558,.in.forwar
83240	64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73	d.....self_attention_outputs.=.s
83260	65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	elf.attention(...File."/home/hsi
83280	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
832a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
832c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
832e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.488,.in.for
83300	77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c	ward.....self_outputs.=.self.sel
83320	66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	f(...File."/home/hsiangnianian/g
83340	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
83360	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
83380	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
833a0	79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74	y",.line.413,.in.forward.....att
833c0	6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73	n_output.=.torch.nn.functional.s
833e0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ca 14 0a	caled_dot_product_attention(....
83400	07 76 61 6c 5f 33 39 37 0a 07 76 61 6c 5f 33 39 34 0a 07 76 61 6c 5f 33 39 35 12 07 76 61 6c 5f	.val_397..val_394..val_395..val_
83420	34 30 32 1a 0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 33 38 34 22 06 43 6f 6e 63 61 74 2a 0b 0a 04	402..node_Concat_384".Concat*...
83440	61 78 69 73 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e	axis.....J....namespace...:.tran
83460	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
83480	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
834a0	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
834c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
834e0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
83500	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
83520	65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.4:.transformers.models.
83540	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
83560	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.4.attention:.tra
83580	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
835a0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
835c0	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.4.attention.self:.transform
835e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
83600	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rtSdpaSelfAttention/scaled_dot_p
83620	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f	roduct_attention_4:.aten.scaled_
83640	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03	dot_product_attention.defaultJ..
83660	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
83680	12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
836a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
836c0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
836e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
83700	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
83720	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
83740	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
83760	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
83780	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
837a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
837c0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
837e0	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
83800	6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	n.default']J....pkg.torch.onnx.f
83820	78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	x_node...%scaled_dot_product_att
83840	65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	ention_4.:.[num_users=1].=.call_
83860	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73	function[target=torch.ops.aten.s
83880	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
838a0	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61	ult](args.=.(%transpose_16,.%tra
838c0	6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65	nspose_17,.%transpose_18,.%maske
838e0	64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f	d_fill),.kwargs.=.{})J....pkg.to
83900	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
83920	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
83940	72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.4',.'bert.encoder.layer.
83960	34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	4.attention',.'bert.encoder.laye
83980	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74	r.4.attention.self',.'scaled_dot
839a0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74	_product_attention_4']J....pkg.t
839c0	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
839e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
83a00	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
83a20	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
83a40	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
83a60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
83a80	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
83aa0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
83ac0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
83ae0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
83b00	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
83b20	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
83b40	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
83b60	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
83b80	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
83ba0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
83bc0	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
83be0	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
83c00	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
83c20	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
83c40	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
83c60	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
83c80	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
83ca0	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
83cc0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
83ce0	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
83d00	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
83d20	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
83d40	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
83d60	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
83d80	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
83da0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
83dc0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
83de0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.413,.in.fo
83e00	72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e	rward.....attn_output.=.torch.nn
83e20	2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.functional.scaled_dot_product_a
83e40	74 74 65 6e 74 69 6f 6e 28 0a c8 14 0a 07 76 61 6c 5f 34 30 31 0a 07 76 61 6c 5f 34 30 32 12 07	ttention(.....val_401..val_402..
83e60	76 61 6c 5f 34 30 33 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 33 38 35 22 07 52 65 73 68 61	val_403..node_Reshape_385".Resha
83e80	70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61	pe*...allowzero.....J....namespa
83ea0	63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
83ec0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
83ee0	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
83f00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
83f20	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
83f40	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
83f60	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.4:.transform
83f80	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
83fa0	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	rtLayer/bert.encoder.layer.4.att
83fc0	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
83fe0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
84000	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.4.attention.self
84020	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
84040	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73	ing_bert.BertSdpaSelfAttention/s
84060	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61	caled_dot_product_attention_4:.a
84080	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
840a0	2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	.defaultJ....pkg.torch.onnx.clas
840c0	73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
840e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
84100	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
84120	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
84140	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
84160	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
84180	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
841a0	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
841c0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
841e0	74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tention',.'transformers.models.b
84200	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
84220	74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention',.'aten.scaled_dot_produ
84240	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74	ct_attention.default']J....pkg.t
84260	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f	orch.onnx.fx_node...%scaled_dot_
84280	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73	product_attention_4.:.[num_users
842a0	3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68	=1].=.call_function[target=torch
842c0	2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	.ops.aten.scaled_dot_product_att
842e0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f	ention.default](args.=.(%transpo
84300	73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65	se_16,.%transpose_17,.%transpose
84320	5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	_18,.%masked_fill),.kwargs.=.{})
84340	4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
84360	9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
84380	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.4',.'bert.enc
843a0	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.4.attention',.'bert.e
843c0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.4.attention.self',.
843e0	27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27	'scaled_dot_product_attention_4'
84400	5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
84420	12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
84440	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
84460	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
84480	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
844a0	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
844c0	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
844e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
84500	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
84520	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
84540	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
84560	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
84580	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
845a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
845c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
845e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
84600	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
84620	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
84640	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
84660	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
84680	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
846a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
846c0	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
846e0	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
84700	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
84720	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
84740	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
84760	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
84780	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.488,.in.forward....
847a0	20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c	.self_outputs.=.self.self(...Fil
847c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
847e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
84800	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
84820	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
84840	20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74	.413,.in.forward.....attn_output
84860	20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f	.=.torch.nn.functional.scaled_do
84880	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b3 14 0a 0c 74 72 61 6e 73 70 6f	t_product_attention(.....transpo
848a0	73 65 5f 31 36 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 34 30 35 1a 0c 6e 6f 64 65 5f 4d 75	se_16..val_108..val_405..node_Mu
848c0	6c 5f 33 38 37 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61	l_387".MulJ....namespace...:.tra
848e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
84900	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
84920	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
84940	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
84960	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
84980	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
849a0	64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.4:.transformers.models
849c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
849e0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.4.attention:.tr
84a00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
84a20	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
84a40	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72	layer.4.attention.self:.transfor
84a60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
84a80	65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f	ertSdpaSelfAttention/scaled_dot_
84aa0	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64	product_attention_4:.aten.scaled
84ac0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab	_dot_product_attention.defaultJ.
84ae0	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
84b00	79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
84b20	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
84b40	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
84b60	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
84b80	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
84ba0	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
84bc0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
84be0	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
84c00	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
84c20	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
84c40	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
84c60	27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	'aten.scaled_dot_product_attenti
84c80	6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	on.default']J....pkg.torch.onnx.
84ca0	66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	fx_node...%scaled_dot_product_at
84cc0	74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	tention_4.:.[num_users=1].=.call
84ce0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
84d00	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
84d20	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72	ault](args.=.(%transpose_16,.%tr
84d40	61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b	anspose_17,.%transpose_18,.%mask
84d60	65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74	ed_fill),.kwargs.=.{})J....pkg.t
84d80	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
84da0	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
84dc0	65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.4',.'bert.encoder.layer
84de0	2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.4.attention',.'bert.encoder.lay
84e00	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f	er.4.attention.self',.'scaled_do
84e20	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e	t_product_attention_4']J....pkg.
84e40	74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f	torch.onnx.stack_trace...File."/
84e60	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
84e80	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
84ea0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
84ec0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37	bert/modeling_bert.py",.line.167
84ee0	36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	6,.in.forward.....outputs.=.self
84f00	2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	.bert(...File."/home/hsiangniani
84f20	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
84f40	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
84f60	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
84f80	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1000,.in.forward...
84fa0	20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72	..encoder_outputs.=.self.encoder
84fc0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
84fe0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
85000	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
85020	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
85040	22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.650,.in.forward.....laye
85060	72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65	r_outputs.=.layer_module(...File
85080	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
850a0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
850c0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
850e0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
85100	35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69	558,.in.forward.....self_attenti
85120	6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46	on_outputs.=.self.attention(...F
85140	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
85160	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
85180	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
851a0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
851c0	6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70	ne.488,.in.forward.....self_outp
851e0	75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.self(...File."/home/h
85200	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
85220	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
85240	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
85260	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66	odeling_bert.py",.line.413,.in.f
85280	6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e	orward.....attn_output.=.torch.n
852a0	6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	n.functional.scaled_dot_product_
852c0	61 74 74 65 6e 74 69 6f 6e 28 0a ae 14 0a 07 76 61 6c 5f 34 30 33 0a 07 76 61 6c 5f 31 30 38 12	attention(.....val_403..val_108.
852e0	07 76 61 6c 5f 34 30 37 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 33 38 39 22 03 4d 75 6c 4a 91 04 0a 09	.val_407..node_Mul_389".MulJ....
85300	6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
85320	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
85340	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
85360	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
85380	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
853a0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
853c0	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72	Encoder/bert.encoder.layer.4:.tr
853e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
85400	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
85420	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	r.4.attention:.transformers.mode
85440	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
85460	69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	ion/bert.encoder.layer.4.attenti
85480	6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on.self:.transformers.models.ber
854a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
854c0	6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ntion/scaled_dot_product_attenti
854e0	6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on_4:.aten.scaled_dot_product_at
85500	74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	tention.defaultJ....pkg.torch.on
85520	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
85540	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
85560	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
85580	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
855a0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
855c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
855e0	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
85600	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
85620	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
85640	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	.BertAttention',.'transformers.m
85660	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70	odels.bert.modeling_bert.BertSdp
85680	61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	aSelfAttention',.'aten.scaled_do
856a0	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01	t_product_attention.default']J..
856c0	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c	..pkg.torch.onnx.fx_node...%scal
856e0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75	ed_dot_product_attention_4.:.[nu
85700	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
85720	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	t=torch.ops.aten.scaled_dot_prod
85740	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25	uct_attention.default](args.=.(%
85760	74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72	transpose_16,.%transpose_17,.%tr
85780	61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67	anspose_18,.%masked_fill),.kwarg
857a0	73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
857c0	73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
857e0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62	der',.'bert.encoder.layer.4',.'b
85800	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.4.attention',.
85820	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
85840	73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	self',.'scaled_dot_product_atten
85860	74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	tion_4']J....pkg.torch.onnx.stac
85880	6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
858a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
858c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
858e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
85900	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
85920	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
85940	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
85960	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
85980	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
859a0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
859c0	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
859e0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
85a00	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
85a20	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
85a40	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
85a60	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
85a80	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
85aa0	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
85ac0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
85ae0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
85b00	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
85b20	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
85b40	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
85b60	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
85b80	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
85ba0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
85bc0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
85be0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
85c00	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
85c20	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
85c40	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
85c60	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
85c80	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
85ca0	22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e	",.line.413,.in.forward.....attn
85cc0	5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63	_output.=.torch.nn.functional.sc
85ce0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b4 14 0a 07	aled_dot_product_attention(.....
85d00	76 61 6c 5f 34 30 35 0a 07 76 61 6c 5f 34 30 37 12 07 76 61 6c 5f 34 30 38 1a 0f 6e 6f 64 65 5f	val_405..val_407..val_408..node_
85d20	4d 61 74 4d 75 6c 5f 33 39 30 22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65	MatMul_390".MatMulJ....namespace
85d40	12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
85d60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
85d80	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
85da0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
85dc0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
85de0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
85e00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.4:.transformer
85e20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
85e40	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	Layer/bert.encoder.layer.4.atten
85e60	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
85e80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
85ea0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.4.attention.self:.
85ec0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
85ee0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61	g_bert.BertSdpaSelfAttention/sca
85f00	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65	led_dot_product_attention_4:.ate
85f20	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
85f40	65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	efaultJ....pkg.torch.onnx.class_
85f60	68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	hierarchy...['transformers.model
85f80	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
85fa0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	nClassification',.'transformers.
85fc0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
85fe0	64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	del',.'transformers.models.bert.
86000	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61	modeling_bert.BertEncoder',.'tra
86020	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
86040	65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ert.BertLayer',.'transformers.mo
86060	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
86080	6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ntion',.'transformers.models.ber
860a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65	t.modeling_bert.BertSdpaSelfAtte
860c0	6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion',.'aten.scaled_dot_product
860e0	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72	_attention.default']J....pkg.tor
86100	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	ch.onnx.fx_node...%scaled_dot_pr
86120	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	oduct_attention_4.:.[num_users=1
86140	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
86160	70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	ps.aten.scaled_dot_product_atten
86180	74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65	tion.default](args.=.(%transpose
861a0	5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31	_16,.%transpose_17,.%transpose_1
861c0	38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be	8,.%masked_fill),.kwargs.=.{})J.
861e0	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01	...pkg.torch.onnx.name_scopes...
86200	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
86220	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.4',.'bert.encod
86240	65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.4.attention',.'bert.enc
86260	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73	oder.layer.4.attention.self',.'s
86280	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a	caled_dot_product_attention_4']J
862a0	90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1	....pkg.torch.onnx.stack_trace..
862c0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
862e0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
86300	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
86320	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
86340	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
86360	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
86380	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
863a0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
863c0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
863e0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
86400	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
86420	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
86440	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
86460	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
86480	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
864a0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
864c0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
864e0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
86500	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
86520	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
86540	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
86560	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
86580	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
865a0	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
865c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
865e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
86600	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
86620	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
86640	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
86660	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
86680	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
866a0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
866c0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
866e0	31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d	13,.in.forward.....attn_output.=
86700	20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	.torch.nn.functional.scaled_dot_
86720	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b2 14 0a 07 76 61 6c 5f 34 30 38 0a 0b	product_attention(.....val_408..
86740	6d 61 73 6b 65 64 5f 66 69 6c 6c 12 07 76 61 6c 5f 34 30 39 1a 0c 6e 6f 64 65 5f 41 64 64 5f 33	masked_fill..val_409..node_Add_3
86760	39 31 22 03 41 64 64 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66	91".AddJ....namespace...:.transf
86780	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
867a0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74	.BertForTokenClassification/bert
867c0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
867e0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a	ing_bert.BertModel/bert.encoder:
86800	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
86820	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ng_bert.BertEncoder/bert.encoder
86840	2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.layer.4:.transformers.models.be
86860	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e	rt.modeling_bert.BertLayer/bert.
86880	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73	encoder.layer.4.attention:.trans
868a0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
868c0	74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	t.BertAttention/bert.encoder.lay
868e0	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	er.4.attention.self:.transformer
86900	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
86920	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	SdpaSelfAttention/scaled_dot_pro
86940	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f	duct_attention_4:.aten.scaled_do
86960	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e	t_product_attention.defaultJ....
86980	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88	pkg.torch.onnx.class_hierarchy..
869a0	03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
869c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
869e0	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
86a00	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
86a20	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
86a40	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
86a60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
86a80	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
86aa0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72	odeling_bert.BertAttention',.'tr
86ac0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
86ae0	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74	bert.BertSdpaSelfAttention',.'at
86b00	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
86b20	64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
86b40	6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	node...%scaled_dot_product_atten
86b60	74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75	tion_4.:.[num_users=1].=.call_fu
86b80	6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61	nction[target=torch.ops.aten.sca
86ba0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
86bc0	74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20 25 74 72 61 6e 73	t](args.=.(%transpose_16,.%trans
86be0	70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f	pose_17,.%transpose_18,.%masked_
86c00	66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63	fill),.kwargs.=.{})J....pkg.torc
86c20	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
86c40	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
86c60	6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	layer.4',.'bert.encoder.layer.4.
86c80	61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	attention',.'bert.encoder.layer.
86ca0	34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70	4.attention.self',.'scaled_dot_p
86cc0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72	roduct_attention_4']J....pkg.tor
86ce0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
86d00	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
86d20	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
86d40	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
86d60	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
86d80	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
86da0	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
86dc0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
86de0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
86e00	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
86e20	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
86e40	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
86e60	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
86e80	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
86ea0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
86ec0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
86ee0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
86f00	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
86f20	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
86f40	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
86f60	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
86f80	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
86fa0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
86fc0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
86fe0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
87000	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
87020	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
87040	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
87060	34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73	488,.in.forward.....self_outputs
87080	20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.self(...File."/home/hsia
870a0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
870c0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
870e0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
87100	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.413,.in.forw
87120	61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66	ard.....attn_output.=.torch.nn.f
87140	75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	unctional.scaled_dot_product_att
87160	65 6e 74 69 6f 6e 28 0a c3 14 0a 07 76 61 6c 5f 34 30 39 12 07 76 61 6c 5f 34 31 30 1a 10 6e 6f	ention(.....val_409..val_410..no
87180	64 65 5f 53 6f 66 74 6d 61 78 5f 33 39 32 22 07 53 6f 66 74 6d 61 78 2a 14 0a 04 61 78 69 73 18	de_Softmax_392".Softmax*...axis.
871a0	ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20	.............J....namespace...:.
871c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
871e0	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
87200	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
87220	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
87240	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
87260	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
87280	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.4:.transformers.mod
872a0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
872c0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a	/bert.encoder.layer.4.attention:
872e0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
87300	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64	ng_bert.BertAttention/bert.encod
87320	65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73	er.layer.4.attention.self:.trans
87340	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
87360	74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64	t.BertSdpaSelfAttention/scaled_d
87380	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61 74 65 6e 2e 73 63 61	ot_product_attention_4:.aten.sca
873a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c	led_dot_product_attention.defaul
873c0	74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
873e0	72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
87400	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
87420	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
87440	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
87460	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
87480	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
874a0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
874c0	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
874e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
87500	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
87520	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
87540	27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	',.'aten.scaled_dot_product_atte
87560	6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	ntion.default']J....pkg.torch.on
87580	6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	nx.fx_node...%scaled_dot_product
875a0	5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	_attention_4.:.[num_users=1].=.c
875c0	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
875e0	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
87600	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 36 2c 20	default](args.=.(%transpose_16,.
87620	25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 38 2c 20 25 6d	%transpose_17,.%transpose_18,.%m
87640	61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b	asked_fill),.kwargs.=.{})J....pk
87660	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
87680	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
876a0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.4',.'bert.encoder.la
876c0	79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.4.attention',.'bert.encoder.
876e0	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64	layer.4.attention.self',.'scaled
87700	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27 5d 4a 90 09 0a 1a 70	_dot_product_attention_4']J....p
87720	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65	kg.torch.onnx.stack_trace...File
87740	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
87760	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
87780	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
877a0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
877c0	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
877e0	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
87800	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
87820	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
87840	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
87860	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
87880	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
878a0	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
878c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
878e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
87900	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
87920	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
87940	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
87960	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
87980	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
879a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
879c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
879e0	6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65	ne.558,.in.forward.....self_atte
87a00	6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a	ntion_outputs.=.self.attention(.
87a20	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
87a40	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
87a60	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
87a80	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
87aa0	20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f	.line.488,.in.forward.....self_o
87ac0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.self(...File."/hom
87ae0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
87b00	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
87b20	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
87b40	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69	t/modeling_bert.py",.line.413,.i
87b60	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63	n.forward.....attn_output.=.torc
87b80	68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	h.nn.functional.scaled_dot_produ
87ba0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a e4 14 0a 07 76 61 6c 5f 34 31 30 0a 0c 74 72 61 6e 73	ct_attention(.....val_410..trans
87bc0	70 6f 73 65 5f 31 38 12 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	pose_18..scaled_dot_product_atte
87be0	6e 74 69 6f 6e 5f 34 1a 23 6e 6f 64 65 5f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_4.#node_scaled_dot_product
87c00	5f 61 74 74 65 6e 74 69 6f 6e 5f 34 22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61	_attention_4".MatMulJ....namespa
87c20	63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
87c40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
87c60	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
87c80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
87ca0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
87cc0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
87ce0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.4:.transform
87d00	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
87d20	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	rtLayer/bert.encoder.layer.4.att
87d40	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
87d60	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
87d80	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.4.attention.self
87da0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
87dc0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73	ing_bert.BertSdpaSelfAttention/s
87de0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 3a 20 61	caled_dot_product_attention_4:.a
87e00	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
87e20	2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	.defaultJ....pkg.torch.onnx.clas
87e40	73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
87e60	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
87e80	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
87ea0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
87ec0	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
87ee0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
87f00	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
87f20	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
87f40	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74	models.bert.modeling_bert.BertAt
87f60	74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tention',.'transformers.models.b
87f80	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
87fa0	74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention',.'aten.scaled_dot_produ
87fc0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74	ct_attention.default']J....pkg.t
87fe0	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f	orch.onnx.fx_node...%scaled_dot_
88000	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73	product_attention_4.:.[num_users
88020	3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68	=1].=.call_function[target=torch
88040	2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	.ops.aten.scaled_dot_product_att
88060	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f	ention.default](args.=.(%transpo
88080	73 65 5f 31 36 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 31 37 2c 20 25 74 72 61 6e 73 70 6f 73 65	se_16,.%transpose_17,.%transpose
880a0	5f 31 38 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	_18,.%masked_fill),.kwargs.=.{})
880c0	4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
880e0	9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
88100	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.4',.'bert.enc
88120	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.4.attention',.'bert.e
88140	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.4.attention.self',.
88160	27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 27	'scaled_dot_product_attention_4'
88180	5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
881a0	12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
881c0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
881e0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
88200	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
88220	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
88240	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
88260	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
88280	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
882a0	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
882c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
882e0	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
88300	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
88320	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
88340	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
88360	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
88380	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
883a0	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
883c0	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
883e0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
88400	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
88420	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
88440	70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.558,.in.forward.....se
88460	6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65	lf_attention_outputs.=.self.atte
88480	6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	ntion(...File."/home/hsiangniani
884a0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
884c0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
884e0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
88500	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.488,.in.forward....
88520	20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c	.self_outputs.=.self.self(...Fil
88540	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
88560	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
88580	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
885a0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
885c0	20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74	.413,.in.forward.....attn_output
885e0	20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f	.=.torch.nn.functional.scaled_do
88600	74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba 13 0a 1e 73 63 61 6c 65 64 5f	t_product_attention(.....scaled_
88620	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 12 0c 74 72 61 6e 73 70 6f	dot_product_attention_4..transpo
88640	73 65 5f 31 39 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 31 39 22 09 54 72 61 6e 73 70	se_19..node_transpose_19".Transp
88660	6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73	ose*...perm@.@.@.@....J....names
88680	70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
886a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
886c0	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
886e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
88700	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
88720	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
88740	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.4:.transfo
88760	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
88780	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	BertLayer/bert.encoder.layer.4.a
887a0	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
887c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
887e0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
88800	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
88820	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
88840	2f 74 72 61 6e 73 70 6f 73 65 5f 31 39 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e	/transpose_19:.aten.transpose.in
88860	74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
88880	72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
888a0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
888c0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
888e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
88900	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
88920	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
88940	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
88960	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
88980	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
889a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
889c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
889e0	27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a aa 01 0a 16 70 6b 67	',.'aten.transpose.int']J....pkg
88a00	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8f 01 25 74 72 61 6e 73 70 6f 73 65	.torch.onnx.fx_node...%transpose
88a20	5f 31 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	_19.:.[num_users=1].=.call_funct
88a40	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70	ion[target=torch.ops.aten.transp
88a60	6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	ose.int](args.=.(%scaled_dot_pro
88a80	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20	duct_attention_4,.1,.2),.kwargs.
88aa0	3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63	=.{})J....pkg.torch.onnx.name_sc
88ac0	6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	opes...['',.'bert',.'bert.encode
88ae0	72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72	r',.'bert.encoder.layer.4',.'ber
88b00	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62	t.encoder.layer.4.attention',.'b
88b20	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
88b40	6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 31 39 27 5d 4a fa 08 0a 1a 70 6b 67 2e 74 6f 72	lf',.'transpose_19']J....pkg.tor
88b60	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 db 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
88b80	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
88ba0	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
88bc0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
88be0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
88c00	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
88c20	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
88c40	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
88c60	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
88c80	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
88ca0	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
88cc0	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
88ce0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
88d00	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
88d20	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
88d40	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
88d60	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
88d80	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
88da0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
88dc0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
88de0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
88e00	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
88e20	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
88e40	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
88e60	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
88e80	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
88ea0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
88ec0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
88ee0	34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73	488,.in.forward.....self_outputs
88f00	20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.self(...File."/home/hsia
88f20	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
88f40	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
88f60	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
88f80	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 32 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.422,.in.forw
88fa0	61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75	ard.....attn_output.=.attn_outpu
88fc0	74 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a bf 13 0a 0c 74 72 61 6e 73 70 6f 73 65 5f	t.transpose(1,.2).....transpose_
88fe0	31 39 0a 07 76 61 6c 5f 31 31 39 12 07 76 69 65 77 5f 31 39 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f	19..val_119..view_19..node_view_
89000	31 39 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03	19".Reshape*...allowzero.....J..
89020	0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
89040	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
89060	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
89080	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
890a0	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
890c0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
890e0	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20	rtEncoder/bert.encoder.layer.4:.
89100	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
89120	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
89140	79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	yer.4.attention:.transformers.mo
89160	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65	dels.bert.modeling_bert.BertAtte
89180	6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	ntion/bert.encoder.layer.4.atten
891a0	74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion.self:.transformers.models.b
891c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74	ert.modeling_bert.BertSdpaSelfAt
891e0	74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 31 39 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75	tention/view_19:.aten.view.defau
89200	6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
89220	61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
89240	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
89260	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
89280	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
892a0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
892c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
892e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
89300	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
89320	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
89340	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
89360	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
89380	6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a b7 01 0a 16 70 6b 67	n',.'aten.view.default']J....pkg
893a0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9c 01 25 76 69 65 77 5f 31 39 20 3a	.torch.onnx.fx_node...%view_19.:
893c0	20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74	.[num_users=1].=.call_function[t
893e0	61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c	arget=torch.ops.aten.view.defaul
89400	74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 31 39 2c 20 5b 25 73 79 6d 5f	t](args.=.(%transpose_19,.[%sym_
89420	73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 2c 20 32	size_int_45,.%sym_size_int_48,.2
89440	35 36 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	56]),.kwargs.=.{})J....pkg.torch
89460	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
89480	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
894a0	61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	ayer.4',.'bert.encoder.layer.4.a
894c0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	ttention',.'bert.encoder.layer.4
894e0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 31 39 27 5d 4a 94 09 0a	.attention.self',.'view_19']J...
89500	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f5 08 46 69	.pkg.torch.onnx.stack_trace...Fi
89520	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
89540	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
89560	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
89580	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
895a0	65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d	e.1676,.in.forward.....outputs.=
895c0	20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.bert(...File."/home/hsiang
895e0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
89600	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
89620	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
89640	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61	ng_bert.py",.line.1000,.in.forwa
89660	72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e	rd.....encoder_outputs.=.self.en
89680	63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	coder(...File."/home/hsiangniani
896a0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
896c0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
896e0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
89700	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.650,.in.forward....
89720	20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20	.layer_outputs.=.layer_module(..
89740	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
89760	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
89780	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
897a0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
897c0	6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74	line.558,.in.forward.....self_at
897e0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e	tention_outputs.=.self.attention
89800	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
89820	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
89840	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
89860	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
89880	22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.488,.in.forward.....self
898a0	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68	_outputs.=.self.self(...File."/h
898c0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
898e0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
89900	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
89920	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 33 2c	ert/modeling_bert.py",.line.423,
89940	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74	.in.forward.....attn_output.=.at
89960	74 6e 5f 6f 75 74 70 75 74 2e 72 65 73 68 61 70 65 28 62 73 7a 2c 20 74 67 74 5f 6c 65 6e 2c 20	tn_output.reshape(bsz,.tgt_len,.
89980	73 65 6c 66 2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65 29 0a ca 16 0a 07 76 69 65 77 5f 31 39 0a	self.all_head_size).....view_19.
899a0	07 76 61 6c 5f 34 31 36 12 07 76 61 6c 5f 34 31 37 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 33	.val_416..val_417..node_MatMul_3
899c0	39 39 22 06 4d 61 74 4d 75 6c 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61	99".MatMulJ....namespace...:.tra
899e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
89a00	65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62	ert.BertForTokenClassification/b
89a20	65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	ert:.transformers.models.bert.mo
89a40	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertModel/bert.encod
89a60	65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	er:.transformers.models.bert.mod
89a80	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f	eling_bert.BertEncoder/bert.enco
89aa0	64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	der.layer.4:.transformers.models
89ac0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65	.bert.modeling_bert.BertLayer/be
89ae0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72	rt.encoder.layer.4.attention:.tr
89b00	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
89b20	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	bert.BertAttention/bert.encoder.
89b40	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66	layer.4.attention.output:.transf
89b60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
89b80	2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.BertSelfOutput/bert.encoder.lay
89ba0	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72	er.4.attention.output.dense:.tor
89bc0	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
89be0	61 72 5f 32 37 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70	ar_27:.aten.linear.defaultJ....p
89c00	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03	kg.torch.onnx.class_hierarchy...
89c20	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
89c40	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
89c60	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
89c80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
89ca0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
89cc0	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
89ce0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
89d00	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
89d20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
89d40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
89d60	65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d	ert.BertSelfOutput',.'torch.nn.m
89d80	6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e	odules.linear.Linear',.'aten.lin
89da0	65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ear.default']J....pkg.torch.onnx
89dc0	2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 32 37 20 3a 20 5b 6e 75 6d 5f 75 73 65	.fx_node...%linear_27.:.[num_use
89de0	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
89e00	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73	ch.ops.aten.linear.default](args
89e20	20 3d 20 28 25 76 69 65 77 5f 31 39 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	.=.(%view_19,.%p_bert_encoder_la
89e40	79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69	yer_4_attention_output_dense_wei
89e60	67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74	ght,.%p_bert_encoder_layer_4_att
89e80	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67	ention_output_dense_bias),.kwarg
89ea0	73 20 3d 20 7b 7d 29 4a da 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f	s.=.{})J....pkg.torch.onnx.name_
89ec0	73 63 6f 70 65 73 12 bb 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	scopes...['',.'bert',.'bert.enco
89ee0	64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62	der',.'bert.encoder.layer.4',.'b
89f00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20	ert.encoder.layer.4.attention',.
89f20	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
89f40	6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61	output',.'bert.encoder.layer.4.a
89f60	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f	ttention.output.dense',.'linear_
89f80	32 37 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	27']J....pkg.torch.onnx.stack_tr
89fa0	61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
89fc0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
89fe0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
8a000	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
8a020	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
8a040	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
8a060	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
8a080	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
8a0a0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
8a0c0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
8a0e0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
8a100	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
8a120	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
8a140	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
8a160	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
8a180	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
8a1a0	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
8a1c0	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
8a1e0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
8a200	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
8a220	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
8a240	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
8a260	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
8a280	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
8a2a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
8a2c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
8a2e0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
8a300	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.497,.in.forward.
8a320	20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70	....attention_output.=.self.outp
8a340	75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65	ut(self_outputs[0],.hidden_state
8a360	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
8a380	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
8a3a0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
8a3c0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
8a3e0	79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64	y",.line.436,.in.forward.....hid
8a400	64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73	den_states.=.self.dense(hidden_s
8a420	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
8a440	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
8a460	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63	ib/python3.10/site-packages/torc
8a480	68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33	h/nn/modules/linear.py",.line.13
8a4a0	34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61	4,.in.forward.....return.F.linea
8a4c0	72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29	r(input,.self.weight,.self.bias)
8a4e0	0a f1 16 0a 07 76 61 6c 5f 34 31 37 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	.....val_417.0bert.encoder.layer
8a500	2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09	.4.attention.output.dense.bias..
8a520	6c 69 6e 65 61 72 5f 32 37 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 37 22 03 41 64 64 4a ad	linear_27..node_linear_27".AddJ.
8a540	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
8a560	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
8a580	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
8a5a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
8a5c0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
8a5e0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
8a600	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a	ertEncoder/bert.encoder.layer.4:
8a620	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
8a640	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
8a660	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.4.attention:.transformers.m
8a680	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
8a6a0	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65	ention/bert.encoder.layer.4.atte
8a6c0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ntion.output:.transformers.model
8a6e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74	s.bert.modeling_bert.BertSelfOut
8a700	70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	put/bert.encoder.layer.4.attenti
8a720	6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	on.output.dense:.torch.nn.module
8a740	73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 37 3a 20 61 74 65 6e 2e	s.linear.Linear/linear_27:.aten.
8a760	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	linear.defaultJ....pkg.torch.onn
8a780	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
8a7a0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
8a7c0	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
8a7e0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
8a800	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
8a820	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
8a840	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
8a860	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
8a880	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
8a8a0	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
8a8c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66	dels.bert.modeling_bert.BertSelf
8a8e0	4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61	Output',.'torch.nn.modules.linea
8a900	72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27	r.Linear',.'aten.linear.default'
8a920	5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25	]J....pkg.torch.onnx.fx_node...%
8a940	6c 69 6e 65 61 72 5f 32 37 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	linear_27.:.[num_users=1].=.call
8a960	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
8a980	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 31 39	linear.default](args.=.(%view_19
8a9a0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_4_attent
8a9c0	69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74	ion_output_dense_weight,.%p_bert
8a9e0	5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	_encoder_layer_4_attention_outpu
8aa00	74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a da 01 0a 1a	t_dense_bias),.kwargs.=.{})J....
8aa20	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 bb 01 5b 27 27	pkg.torch.onnx.name_scopes...[''
8aa40	2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e	,.'bert',.'bert.encoder',.'bert.
8aa60	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	encoder.layer.4',.'bert.encoder.
8aa80	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	layer.4.attention',.'bert.encode
8aaa0	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65	r.layer.4.attention.output',.'be
8aac0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.4.attention.out
8aae0	70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 37 27 5d 4a d9 0a 0a 1a 70 6b 67	put.dense',.'linear_27']J....pkg
8ab00	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
8ab20	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
8ab40	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
8ab60	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
8ab80	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
8aba0	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
8abc0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
8abe0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
8ac00	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
8ac20	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
8ac40	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
8ac60	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
8ac80	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
8aca0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
8acc0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
8ace0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
8ad00	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
8ad20	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
8ad40	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
8ad60	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
8ad80	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
8ada0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
8adc0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
8ade0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
8ae00	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
8ae20	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
8ae40	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
8ae60	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
8ae80	69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f	ine.497,.in.forward.....attentio
8aea0	6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70	n_output.=.self.output(self_outp
8aec0	75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	uts[0],.hidden_states)...File."/
8aee0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
8af00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
8af20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
8af40	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36	bert/modeling_bert.py",.line.436
8af60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
8af80	20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c	.self.dense(hidden_states)...Fil
8afa0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
8afc0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
8afe0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73	0/site-packages/torch/nn/modules
8b000	2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72	/linear.py",.line.134,.in.forwar
8b020	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c	d.....return.F.linear(input,.sel
8b040	66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 98 13 0a 09 6c 69 6e 65 61 72 5f	f.weight,.self.bias).....linear_
8b060	32 37 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 12 07 61 64 64 5f 34 31 36 1a 0c 6e 6f 64 65 5f	27..layer_norm_8..add_416..node_
8b080	61 64 64 5f 34 31 36 22 03 41 64 64 4a db 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 cd 03 3a 20 74	add_416".AddJ....namespace...:.t
8b0a0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
8b0c0	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
8b0e0	2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	/bert:.transformers.models.bert.
8b100	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63	modeling_bert.BertModel/bert.enc
8b120	6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	oder:.transformers.models.bert.m
8b140	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e	odeling_bert.BertEncoder/bert.en
8b160	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	coder.layer.4:.transformers.mode
8b180	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f	ls.bert.modeling_bert.BertLayer/
8b1a0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20	bert.encoder.layer.4.attention:.
8b1c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
8b1e0	67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65	g_bert.BertAttention/bert.encode
8b200	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e	r.layer.4.attention.output:.tran
8b220	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
8b240	72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 61 64 64 5f 34 31 36 3a 20 61 74 65 6e 2e	rt.BertSelfOutput/add_416:.aten.
8b260	61 64 64 2e 54 65 6e 73 6f 72 4a 8a 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	add.TensorJ....pkg.torch.onnx.cl
8b280	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 e7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
8b2a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
8b2c0	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
8b2e0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
8b300	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
8b320	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
8b340	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
8b360	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
8b380	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
8b3a0	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
8b3c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70	.bert.modeling_bert.BertSelfOutp
8b3e0	75 74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 94 01 0a 16 70 6b 67 2e	ut',.'aten.add.Tensor']J....pkg.
8b400	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 7a 25 61 64 64 5f 34 31 36 20 3a 20 5b	torch.onnx.fx_node.z%add_416.:.[
8b420	6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72	num_users=1].=.call_function[tar
8b440	67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61	get=torch.ops.aten.add.Tensor](a
8b460	72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 31 30 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 29	rgs.=.(%clone_10,.%layer_norm_8)
8b480	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
8b4a0	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
8b4c0	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
8b4e0	2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	.4',.'bert.encoder.layer.4.atten
8b500	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74	tion',.'bert.encoder.layer.4.att
8b520	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 34 31 36 27 5d 4a b2 09 0a 1a 70	ention.output',.'add_416']J....p
8b540	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 93 09 46 69 6c 65	kg.torch.onnx.stack_trace...File
8b560	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
8b580	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
8b5a0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
8b5c0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
8b5e0	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
8b600	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
8b620	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
8b640	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
8b660	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
8b680	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
8b6a0	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
8b6c0	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
8b6e0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
8b700	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
8b720	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
8b740	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
8b760	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
8b780	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
8b7a0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
8b7c0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
8b7e0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
8b800	6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65	ne.558,.in.forward.....self_atte
8b820	6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a	ntion_outputs.=.self.attention(.
8b840	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
8b860	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
8b880	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
8b8a0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
8b8c0	20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74	.line.497,.in.forward.....attent
8b8e0	69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75	ion_output.=.self.output(self_ou
8b900	74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20	tputs[0],.hidden_states)...File.
8b920	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
8b940	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
8b960	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
8b980	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
8b9a0	33 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73	38,.in.forward.....hidden_states
8b9c0	20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20	.=.self.LayerNorm(hidden_states.
8b9e0	2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a c5 18 0a 07 61 64 64 5f 34 31 36 0a 36 62 65 72	+.input_tensor).....add_416.6ber
8ba00	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70	t.encoder.layer.4.attention.outp
8ba20	75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65	ut.LayerNorm.weight.4bert.encode
8ba40	72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72	r.layer.4.attention.output.Layer
8ba60	4e 6f 72 6d 2e 62 69 61 73 12 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 39 1a 11 6e 6f 64 65 5f 6c 61	Norm.bias..layer_norm_9..node_la
8ba80	79 65 72 5f 6e 6f 72 6d 5f 39 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11	yer_norm_9".LayerNormalization*.
8baa0	0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c	..stash_type.....*...epsilon....
8bac0	2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a c2 04 0a 09 6e	+...*...axis..............J....n
8bae0	61 6d 65 73 70 61 63 65 12 b4 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
8bb00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
8bb20	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
8bb40	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
8bb60	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
8bb80	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
8bba0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61	ncoder/bert.encoder.layer.4:.tra
8bbc0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
8bbe0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
8bc00	2e 34 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.4.attention:.transformers.model
8bc20	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
8bc40	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.4.attentio
8bc60	6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	n.output:.transformers.models.be
8bc80	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f	rt.modeling_bert.BertSelfOutput/
8bca0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f	bert.encoder.layer.4.attention.o
8bcc0	75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	utput.LayerNorm:.torch.nn.module
8bce0	73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f	s.normalization.LayerNorm/layer_
8bd00	6e 6f 72 6d 5f 39 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a	norm_9:.aten.layer_norm.defaultJ
8bd20	be 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
8bd40	68 79 12 9b 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
8bd60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
8bd80	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
8bda0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
8bdc0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
8bde0	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
8be00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
8be20	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
8be40	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
8be60	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
8be80	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68	ing_bert.BertSelfOutput',.'torch
8bea0	2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e	.nn.modules.normalization.LayerN
8bec0	6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d	orm',.'aten.layer_norm.default']
8bee0	4a 94 02 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 f9 01 25 6c	J....pkg.torch.onnx.fx_node...%l
8bf00	61 79 65 72 5f 6e 6f 72 6d 5f 39 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20 63 61	ayer_norm_9.:.[num_users=2].=.ca
8bf20	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
8bf40	6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61	n.layer_norm.default](args.=.(%a
8bf60	64 64 5f 34 31 36 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c	dd_416,.[256],.%p_bert_encoder_l
8bf80	61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72	ayer_4_attention_output_layernor
8bfa0	6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	m_weight,.%p_bert_encoder_layer_
8bfc0	34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61	4_attention_output_layernorm_bia
8bfe0	73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a e1 01 0a 1a 70 6b 67 2e	s,.1e-12),.kwargs.=.{})J....pkg.
8c000	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 c2 01 5b 27 27 2c 20 27 62	torch.onnx.name_scopes...['',.'b
8c020	65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert',.'bert.encoder',.'bert.enco
8c040	64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	der.layer.4',.'bert.encoder.laye
8c060	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	r.4.attention',.'bert.encoder.la
8c080	79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65	yer.4.attention.output',.'bert.e
8c0a0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e	ncoder.layer.4.attention.output.
8c0c0	4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 39 27 5d 4a d9 0a 0a 1a	LayerNorm',.'layer_norm_9']J....
8c0e0	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c	pkg.torch.onnx.stack_trace...Fil
8c100	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
8c120	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
8c140	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
8c160	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
8c180	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
8c1a0	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
8c1c0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
8c1e0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
8c200	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
8c220	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
8c240	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
8c260	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
8c280	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
8c2a0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
8c2c0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
8c2e0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
8c300	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
8c320	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
8c340	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
8c360	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
8c380	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
8c3a0	69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74	ine.558,.in.forward.....self_att
8c3c0	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28	ention_outputs.=.self.attention(
8c3e0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
8c400	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
8c420	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
8c440	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
8c460	2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e	,.line.497,.in.forward.....atten
8c480	74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f	tion_output.=.self.output(self_o
8c4a0	75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	utputs[0],.hidden_states)...File
8c4c0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
8c4e0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
8c500	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
8c520	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
8c540	34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65	438,.in.forward.....hidden_state
8c560	73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73	s.=.self.LayerNorm(hidden_states
8c580	20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.+.input_tensor)...File."/home/h
8c5a0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
8c5c0	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
8c5e0	6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61	kages/torch/nn/modules/normaliza
8c600	74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	tion.py",.line.229,.in.forward..
8c620	20 20 20 72 65 74 75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a b9 13 0a 0c 6c 61 79 65	...return.F.layer_norm(.....laye
8c640	72 5f 6e 6f 72 6d 5f 39 0a 07 76 61 6c 5f 34 32 30 12 07 76 61 6c 5f 34 32 31 1a 0f 6e 6f 64 65	r_norm_9..val_420..val_421..node
8c660	5f 4d 61 74 4d 75 6c 5f 34 30 31 22 06 4d 61 74 4d 75 6c 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63	_MatMul_401".MatMulJ....namespac
8c680	65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
8c6a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
8c6c0	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
8c6e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
8c700	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
8c720	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
8c740	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.4:.transforme
8c760	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
8c780	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65	tLayer/bert.encoder.layer.4.inte
8c7a0	72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	rmediate:.transformers.models.be
8c7c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74	rt.modeling_bert.BertIntermediat
8c7e0	65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69	e/bert.encoder.layer.4.intermedi
8c800	61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65	ate.dense:.torch.nn.modules.line
8c820	61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 32 38 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72	ar.Linear/linear_28:.aten.linear
8c840	2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73	.defaultJ....pkg.torch.onnx.clas
8c860	73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	s_hierarchy...['transformers.mod
8c880	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
8c8a0	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	kenClassification',.'transformer
8c8c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
8c8e0	4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Model',.'transformers.models.ber
8c900	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74	t.modeling_bert.BertEncoder',.'t
8c920	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
8c940	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertLayer',.'transformers.
8c960	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e	models.bert.modeling_bert.BertIn
8c980	74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c	termediate',.'torch.nn.modules.l
8c9a0	69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61	inear.Linear',.'aten.linear.defa
8c9c0	75 6c 74 27 5d 4a f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
8c9e0	12 d9 01 25 6c 69 6e 65 61 72 5f 32 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	...%linear_28.:.[num_users=1].=.
8ca00	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
8ca20	74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79	ten.linear.default](args.=.(%lay
8ca40	65 72 5f 6e 6f 72 6d 5f 39 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	er_norm_9,.%p_bert_encoder_layer
8ca60	5f 34 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70	_4_intermediate_dense_weight,.%p
8ca80	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 69 6e 74 65 72 6d 65 64 69 61	_bert_encoder_layer_4_intermedia
8caa0	74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a	te_dense_bias),.kwargs.=.{})J...
8cac0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27	.pkg.torch.onnx.name_scopes...['
8cae0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
8cb00	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.4',.'bert.encoder
8cb20	2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e	.layer.4.intermediate',.'bert.en
8cb40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65	coder.layer.4.intermediate.dense
8cb60	27 2c 20 27 6c 69 6e 65 61 72 5f 32 38 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	',.'linear_28']J....pkg.torch.on
8cb80	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
8cba0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
8cbc0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
8cbe0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
8cc00	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
8cc20	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
8cc40	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
8cc60	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
8cc80	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
8cca0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
8ccc0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
8cce0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
8cd00	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
8cd20	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
8cd40	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
8cd60	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
8cd80	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
8cda0	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
8cdc0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
8cde0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
8ce00	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
8ce20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
8ce40	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
8ce60	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
8ce80	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
8cea0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
8cec0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
8cee0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c	ert/modeling_bert.py",.line.512,
8cf00	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
8cf20	73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	self.dense(hidden_states)...File
8cf40	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
8cf60	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
8cf80	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
8cfa0	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
8cfc0	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
8cfe0	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d7 13 0a 07 76 61 6c 5f 34 32 31 0a	.weight,.self.bias).....val_421.
8d000	2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61	,bert.encoder.layer.4.intermedia
8d020	74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 32 38 1a 0e 6e 6f 64 65 5f 6c	te.dense.bias..linear_28..node_l
8d040	69 6e 65 61 72 5f 32 38 22 03 41 64 64 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c4 03 3a 20	inear_28".AddJ....namespace...:.
8d060	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
8d080	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
8d0a0	6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n/bert:.transformers.models.bert
8d0c0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertModel/bert.en
8d0e0	63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	coder:.transformers.models.bert.
8d100	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65	modeling_bert.BertEncoder/bert.e
8d120	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ncoder.layer.4:.transformers.mod
8d140	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
8d160	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61	/bert.encoder.layer.4.intermedia
8d180	74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	te:.transformers.models.bert.mod
8d1a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74	eling_bert.BertIntermediate/bert
8d1c0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65	.encoder.layer.4.intermediate.de
8d1e0	6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e	nse:.torch.nn.modules.linear.Lin
8d200	65 61 72 2f 6c 69 6e 65 61 72 5f 32 38 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	ear/linear_28:.aten.linear.defau
8d220	6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
8d240	61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
8d260	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
8d280	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
8d2a0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
8d2c0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
8d2e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
8d300	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
8d320	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
8d340	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64	.bert.modeling_bert.BertIntermed
8d360	69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e	iate',.'torch.nn.modules.linear.
8d380	4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a	Linear',.'aten.linear.default']J
8d3a0	f4 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 d9 01 25 6c 69	....pkg.torch.onnx.fx_node...%li
8d3c0	6e 65 61 72 5f 32 38 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66	near_28.:.[num_users=1].=.call_f
8d3e0	75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69	unction[target=torch.ops.aten.li
8d400	6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72	near.default](args.=.(%layer_nor
8d420	6d 5f 39 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 69 6e 74	m_9,.%p_bert_encoder_layer_4_int
8d440	65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f	ermediate_dense_weight,.%p_bert_
8d460	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e	encoder_layer_4_intermediate_den
8d480	73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a 1a 70 6b 67 2e 74	se_bias),.kwargs.=.{})J....pkg.t
8d4a0	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
8d4c0	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
8d4e0	65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.4',.'bert.encoder.layer
8d500	2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.4.intermediate',.'bert.encoder.
8d520	6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 27 2c 20 27 6c 69	layer.4.intermediate.dense',.'li
8d540	6e 65 61 72 5f 32 38 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	near_28']J....pkg.torch.onnx.sta
8d560	63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
8d580	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
8d5a0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
8d5c0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
8d5e0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
8d600	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
8d620	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
8d640	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
8d660	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
8d680	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
8d6a0	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
8d6c0	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
8d6e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
8d700	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
8d720	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
8d740	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
8d760	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
8d780	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
8d7a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
8d7c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
8d7e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
8d800	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.588,.in.forwar
8d820	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b	d.....layer_output.=.apply_chunk
8d840	69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ing_to_forward(...File."/home/hs
8d860	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
8d880	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
8d8a0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
8d8c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c 20 69 6e 20 66 6f	deling_bert.py",.line.512,.in.fo
8d8e0	72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64	rward.....hidden_states.=.self.d
8d900	65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	ense(hidden_states)...File."/hom
8d920	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
8d940	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
8d960	70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72	packages/torch/nn/modules/linear
8d980	2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72	.py",.line.134,.in.forward.....r
8d9a0	65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68	eturn.F.linear(input,.self.weigh
8d9c0	74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a de 12 0a 09 6c 69 6e 65 61 72 5f 32 38 0a 07 76 61 6c	t,.self.bias).....linear_28..val
8d9e0	5f 31 32 36 12 07 76 61 6c 5f 34 32 33 1a 0c 6e 6f 64 65 5f 44 69 76 5f 34 30 33 22 03 44 69 76	_126..val_423..node_Div_403".Div
8da00	4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
8da20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
8da40	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
8da60	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
8da80	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
8daa0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
8dac0	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
8dae0	34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	4:.transformers.models.bert.mode
8db00	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
8db20	2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d	.layer.4.intermediate:.transform
8db40	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
8db60	72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rtIntermediate/bert.encoder.laye
8db80	72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	r.4.intermediate.intermediate_ac
8dba0	74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47	t_fn:.transformers.activations.G
8dbc0	45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 34 3a 20 61 74 65 6e 2e 67 65 6c 75 2e	ELUActivation/gelu_4:.aten.gelu.
8dbe0	64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
8dc00	5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
8dc20	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
8dc40	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
8dc60	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
8dc80	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
8dca0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
8dcc0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
8dce0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
8dd00	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74	odels.bert.modeling_bert.BertInt
8dd20	65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61	ermediate',.'transformers.activa
8dd40	74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c	tions.GELUActivation',.'aten.gel
8dd60	75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	u.default']J....pkg.torch.onnx.f
8dd80	78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	x_node.n%gelu_4.:.[num_users=1].
8dda0	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
8ddc0	2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e	.aten.gelu.default](args.=.(%lin
8dde0	65 61 72 5f 32 38 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74	ear_28,),.kwargs.=.{})J....pkg.t
8de00	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
8de20	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
8de40	65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.4',.'bert.encoder.layer
8de60	2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.4.intermediate',.'bert.encoder.
8de80	6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74	layer.4.intermediate.intermediat
8dea0	65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 34 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72	e_act_fn',.'gelu_4']J....pkg.tor
8dec0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
8dee0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
8df00	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
8df20	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
8df40	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
8df60	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
8df80	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
8dfa0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
8dfc0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
8dfe0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
8e000	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
8e020	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
8e040	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
8e060	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
8e080	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
8e0a0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
8e0c0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
8e0e0	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
8e100	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
8e120	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
8e140	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
8e160	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38	bert/modeling_bert.py",.line.588
8e180	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20	,.in.forward.....layer_output.=.
8e1a0	61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c	apply_chunking_to_forward(...Fil
8e1c0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
8e1e0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
8e200	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
8e220	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
8e240	20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74	.513,.in.forward.....hidden_stat
8e260	65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69	es.=.self.intermediate_act_fn(hi
8e280	64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	dden_states)...File."/home/hsian
8e2a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
8e2c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
8e2e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20	s/transformers/activations.py",.
8e300	6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73	line.85,.in.forward.....return.s
8e320	65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a d3 12 0a 07 76 61 6c 5f 34 32 33 12 07 76 61 6c 5f	elf.act(input).....val_423..val_
8e340	34 32 34 1a 0c 6e 6f 64 65 5f 45 72 66 5f 34 30 34 22 03 45 72 66 4a e4 03 0a 09 6e 61 6d 65 73	424..node_Erf_404".ErfJ....names
8e360	70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
8e380	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
8e3a0	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
8e3c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
8e3e0	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
8e400	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
8e420	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.4:.transfo
8e440	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
8e460	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69	BertLayer/bert.encoder.layer.4.i
8e480	6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ntermediate:.transformers.models
8e4a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64	.bert.modeling_bert.BertIntermed
8e4c0	69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d	iate/bert.encoder.layer.4.interm
8e4e0	65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e	ediate.intermediate_act_fn:.tran
8e500	73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74	sformers.activations.GELUActivat
8e520	69 6f 6e 2f 67 65 6c 75 5f 34 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03	ion/gelu_4:.aten.gelu.defaultJ..
8e540	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
8e560	12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
8e580	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
8e5a0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
8e5c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
8e5e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
8e600	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
8e620	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
8e640	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
8e660	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27	.modeling_bert.BertIntermediate'
8e680	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55	,.'transformers.activations.GELU
8e6a0	41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27	Activation',.'aten.gelu.default'
8e6c0	5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67	]J....pkg.torch.onnx.fx_node.n%g
8e6e0	65 6c 75 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	elu_4.:.[num_users=1].=.call_fun
8e700	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75	ction[target=torch.ops.aten.gelu
8e720	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 38 2c 29 2c 20	.default](args.=.(%linear_28,),.
8e740	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
8e760	6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
8e780	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	.encoder',.'bert.encoder.layer.4
8e7a0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65	',.'bert.encoder.layer.4.interme
8e7c0	64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e	diate',.'bert.encoder.layer.4.in
8e7e0	74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c	termediate.intermediate_act_fn',
8e800	20 27 67 65 6c 75 5f 34 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	.'gelu_4']J....pkg.torch.onnx.st
8e820	61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
8e840	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
8e860	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
8e880	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
8e8a0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
8e8c0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
8e8e0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
8e900	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
8e920	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
8e940	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
8e960	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
8e980	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
8e9a0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
8e9c0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
8e9e0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
8ea00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
8ea20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
8ea40	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
8ea60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
8ea80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
8eaa0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
8eac0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.588,.in.forwa
8eae0	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e	rd.....layer_output.=.apply_chun
8eb00	6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	king_to_forward(...File."/home/h
8eb20	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
8eb40	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
8eb60	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
8eb80	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66	odeling_bert.py",.line.513,.in.f
8eba0	6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e	orward.....hidden_states.=.self.
8ebc0	69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65	intermediate_act_fn(hidden_state
8ebe0	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
8ec00	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
8ec20	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
8ec40	6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69	mers/activations.py",.line.85,.i
8ec60	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e	n.forward.....return.self.act(in
8ec80	70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 34 32 34 0a 07 63 6c 6f 6e 65 5f 31 12 07 76 61 6c 5f 34	put).....val_424..clone_1..val_4
8eca0	32 36 1a 0c 6e 6f 64 65 5f 41 64 64 5f 34 30 36 22 03 41 64 64 4a e4 03 0a 09 6e 61 6d 65 73 70	26..node_Add_406".AddJ....namesp
8ecc0	61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
8ece0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
8ed00	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
8ed20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
8ed40	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
8ed60	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
8ed80	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.4:.transfor
8eda0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
8edc0	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e	ertLayer/bert.encoder.layer.4.in
8ede0	74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	termediate:.transformers.models.
8ee00	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69	bert.modeling_bert.BertIntermedi
8ee20	61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65	ate/bert.encoder.layer.4.interme
8ee40	64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73	diate.intermediate_act_fn:.trans
8ee60	66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69	formers.activations.GELUActivati
8ee80	6f 6e 2f 67 65 6c 75 5f 34 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a	on/gelu_4:.aten.gelu.defaultJ...
8eea0	1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12	.pkg.torch.onnx.class_hierarchy.
8eec0	de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	..['transformers.models.bert.mod
8eee0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63	eling_bert.BertForTokenClassific
8ef00	61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	ation',.'transformers.models.ber
8ef20	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61	t.modeling_bert.BertModel',.'tra
8ef40	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
8ef60	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ert.BertEncoder',.'transformers.
8ef80	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
8efa0	79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	yer',.'transformers.models.bert.
8efc0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c	modeling_bert.BertIntermediate',
8efe0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41	.'transformers.activations.GELUA
8f000	63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d	ctivation',.'aten.gelu.default']
8f020	4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65	J....pkg.torch.onnx.fx_node.n%ge
8f040	6c 75 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	lu_4.:.[num_users=1].=.call_func
8f060	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e	tion[target=torch.ops.aten.gelu.
8f080	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 38 2c 29 2c 20 6b	default](args.=.(%linear_28,),.k
8f0a0	77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	wargs.=.{})J....pkg.torch.onnx.n
8f0c0	61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	ame_scopes...['',.'bert',.'bert.
8f0e0	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27	encoder',.'bert.encoder.layer.4'
8f100	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64	,.'bert.encoder.layer.4.intermed
8f120	69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74	iate',.'bert.encoder.layer.4.int
8f140	65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20	ermediate.intermediate_act_fn',.
8f160	27 67 65 6c 75 5f 34 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61	'gelu_4']J....pkg.torch.onnx.sta
8f180	63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	ck_trace...File."/home/hsiangnia
8f1a0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
8f1c0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
8f1e0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
8f200	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1676,.in.forward.
8f220	20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20	....outputs.=.self.bert(...File.
8f240	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
8f260	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
8f280	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
8f2a0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
8f2c0	30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70	000,.in.forward.....encoder_outp
8f2e0	75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	uts.=.self.encoder(...File."/hom
8f300	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
8f320	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
8f340	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
8f360	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69	t/modeling_bert.py",.line.650,.i
8f380	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61	n.forward.....layer_outputs.=.la
8f3a0	79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	yer_module(...File."/home/hsiang
8f3c0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
8f3e0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
8f400	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
8f420	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.588,.in.forwar
8f440	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b	d.....layer_output.=.apply_chunk
8f460	69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ing_to_forward(...File."/home/hs
8f480	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
8f4a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
8f4c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
8f4e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.513,.in.fo
8f500	72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69	rward.....hidden_states.=.self.i
8f520	6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73	ntermediate_act_fn(hidden_states
8f540	29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	)...File."/home/hsiangnianian/gi
8f560	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
8f580	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
8f5a0	65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e	ers/activations.py",.line.85,.in
8f5c0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70	.forward.....return.self.act(inp
8f5e0	75 74 29 0a dc 12 0a 07 76 61 6c 5f 31 33 31 0a 07 76 61 6c 5f 34 32 36 12 07 76 61 6c 5f 34 32	ut).....val_131..val_426..val_42
8f600	38 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 34 30 38 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61	8..node_Mul_408".MulJ....namespa
8f620	63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
8f640	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
8f660	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
8f680	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
8f6a0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
8f6c0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
8f6e0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.4:.transform
8f700	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
8f720	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74	rtLayer/bert.encoder.layer.4.int
8f740	65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ermediate:.transformers.models.b
8f760	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61	ert.modeling_bert.BertIntermedia
8f780	74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64	te/bert.encoder.layer.4.intermed
8f7a0	69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66	iate.intermediate_act_fn:.transf
8f7c0	6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f	ormers.activations.GELUActivatio
8f7e0	6e 2f 67 65 6c 75 5f 34 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e	n/gelu_4:.aten.gelu.defaultJ....
8f800	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de	pkg.torch.onnx.class_hierarchy..
8f820	02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.['transformers.models.bert.mode
8f840	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
8f860	74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	tion',.'transformers.models.bert
8f880	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e	.modeling_bert.BertModel',.'tran
8f8a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
8f8c0	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	rt.BertEncoder',.'transformers.m
8f8e0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79	odels.bert.modeling_bert.BertLay
8f900	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
8f920	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20	odeling_bert.BertIntermediate',.
8f940	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63	'transformers.activations.GELUAc
8f960	74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a	tivation',.'aten.gelu.default']J
8f980	88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c	....pkg.torch.onnx.fx_node.n%gel
8f9a0	75 5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	u_4.:.[num_users=1].=.call_funct
8f9c0	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64	ion[target=torch.ops.aten.gelu.d
8f9e0	65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 38 2c 29 2c 20 6b 77	efault](args.=.(%linear_28,),.kw
8fa00	61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
8fa20	6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
8fa40	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c	ncoder',.'bert.encoder.layer.4',
8fa60	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69	.'bert.encoder.layer.4.intermedi
8fa80	61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65	ate',.'bert.encoder.layer.4.inte
8faa0	72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27	rmediate.intermediate_act_fn',.'
8fac0	67 65 6c 75 5f 34 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	gelu_4']J....pkg.torch.onnx.stac
8fae0	6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
8fb00	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
8fb20	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
8fb40	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
8fb60	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
8fb80	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
8fba0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
8fbc0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
8fbe0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
8fc00	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
8fc20	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
8fc40	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
8fc60	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
8fc80	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
8fca0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
8fcc0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
8fce0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
8fd00	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
8fd20	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
8fd40	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
8fd60	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
8fd80	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.588,.in.forward
8fda0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69	.....layer_output.=.apply_chunki
8fdc0	6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	ng_to_forward(...File."/home/hsi
8fde0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
8fe00	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
8fe20	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
8fe40	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.513,.in.for
8fe60	77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e	ward.....hidden_states.=.self.in
8fe80	74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29	termediate_act_fn(hidden_states)
8fea0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
8fec0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
8fee0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
8ff00	72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20	rs/activations.py",.line.85,.in.
8ff20	66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75	forward.....return.self.act(inpu
8ff40	74 29 0a dc 12 0a 09 6c 69 6e 65 61 72 5f 32 38 0a 07 76 61 6c 5f 34 32 38 12 06 67 65 6c 75 5f	t).....linear_28..val_428..gelu_
8ff60	34 1a 0b 6e 6f 64 65 5f 67 65 6c 75 5f 34 22 03 4d 75 6c 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63	4..node_gelu_4".MulJ....namespac
8ff80	65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
8ffa0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
8ffc0	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
8ffe0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
90000	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
90020	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
90040	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.4:.transforme
90060	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
90080	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65	tLayer/bert.encoder.layer.4.inte
900a0	72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	rmediate:.transformers.models.be
900c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74	rt.modeling_bert.BertIntermediat
900e0	65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69	e/bert.encoder.layer.4.intermedi
90100	61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f	ate.intermediate_act_fn:.transfo
90120	72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e	rmers.activations.GELUActivation
90140	2f 67 65 6c 75 5f 34 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70	/gelu_4:.aten.gelu.defaultJ....p
90160	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02	kg.torch.onnx.class_hierarchy...
90180	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
901a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
901c0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
901e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
90200	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
90220	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
90240	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
90260	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
90280	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27	deling_bert.BertIntermediate',.'
902a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74	transformers.activations.GELUAct
902c0	69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88	ivation',.'aten.gelu.default']J.
902e0	01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75	...pkg.torch.onnx.fx_node.n%gelu
90300	5f 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_4.:.[num_users=1].=.call_functi
90320	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65	on[target=torch.ops.aten.gelu.de
90340	66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 32 38 2c 29 2c 20 6b 77 61	fault](args.=.(%linear_28,),.kwa
90360	72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
90380	65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
903a0	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20	coder',.'bert.encoder.layer.4',.
903c0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61	'bert.encoder.layer.4.intermedia
903e0	74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72	te',.'bert.encoder.layer.4.inter
90400	6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67	mediate.intermediate_act_fn',.'g
90420	65 6c 75 5f 34 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	elu_4']J....pkg.torch.onnx.stack
90440	5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
90460	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
90480	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
904a0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
904c0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
904e0	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
90500	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
90520	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
90540	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
90560	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30	bert/modeling_bert.py",.line.100
90580	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74	0,.in.forward.....encoder_output
905a0	73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.self.encoder(...File."/home/
905c0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
905e0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
90600	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
90620	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20	modeling_bert.py",.line.650,.in.
90640	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65	forward.....layer_outputs.=.laye
90660	72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	r_module(...File."/home/hsiangni
90680	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
906a0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
906c0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
906e0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.588,.in.forward.
90700	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e	....layer_output.=.apply_chunkin
90720	67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	g_to_forward(...File."/home/hsia
90740	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
90760	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
90780	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
907a0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.513,.in.forw
907c0	61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74	ard.....hidden_states.=.self.int
907e0	65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a	ermediate_act_fn(hidden_states).
90800	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
90820	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
90840	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
90860	73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66	s/activations.py",.line.85,.in.f
90880	6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74	orward.....return.self.act(input
908a0	29 0a fd 12 0a 06 67 65 6c 75 5f 34 0a 07 76 61 6c 5f 34 32 39 12 07 76 61 6c 5f 34 33 30 1a 0f	).....gelu_4..val_429..val_430..
908c0	6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 31 30 22 06 4d 61 74 4d 75 6c 4a c0 03 0a 09 6e 61 6d 65	node_MatMul_410".MatMulJ....name
908e0	73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
90900	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
90920	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
90940	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
90960	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
90980	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
909a0	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.4:.transf
909c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
909e0	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	.BertLayer/bert.encoder.layer.4.
90a00	6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	output:.transformers.models.bert
90a20	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65	.modeling_bert.BertOutput/bert.e
90a40	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72	ncoder.layer.4.output.dense:.tor
90a60	63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65	ch.nn.modules.linear.Linear/line
90a80	61 72 5f 32 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70	ar_29:.aten.linear.defaultJ....p
90aa0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02	kg.torch.onnx.class_hierarchy...
90ac0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
90ae0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
90b00	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
90b20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
90b40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
90b60	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
90b80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
90ba0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
90bc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e	deling_bert.BertOutput',.'torch.
90be0	6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e	nn.modules.linear.Linear',.'aten
90c00	2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	.linear.default']J....pkg.torch.
90c20	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 32 39 20 3a 20 5b 6e 75 6d	onnx.fx_node...%linear_29.:.[num
90c40	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
90c60	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28	=torch.ops.aten.linear.default](
90c80	61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	args.=.(%gelu_4,.%p_bert_encoder
90ca0	5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70	_layer_4_output_dense_weight,.%p
90cc0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e	_bert_encoder_layer_4_output_den
90ce0	73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74	se_bias),.kwargs.=.{})J....pkg.t
90d00	6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65	orch.onnx.name_scopes...['',.'be
90d20	72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt',.'bert.encoder',.'bert.encod
90d40	65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	er.layer.4',.'bert.encoder.layer
90d60	2e 34 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.4.output',.'bert.encoder.layer.
90d80	34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 39 27 5d 4a 81 09	4.output.dense',.'linear_29']J..
90da0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46	..pkg.torch.onnx.stack_trace...F
90dc0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
90de0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
90e00	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
90e20	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
90e40	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
90e60	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
90e80	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
90ea0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
90ec0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
90ee0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
90f00	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
90f20	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
90f40	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
90f60	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
90f80	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
90fa0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
90fc0	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
90fe0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
91000	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
91020	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
91040	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
91060	20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f	.line.588,.in.forward.....layer_
91080	6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61	output.=.apply_chunking_to_forwa
910a0	72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rd(...File."/home/hsiangnianian/
910c0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
910e0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
91100	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
91120	70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69	py",.line.525,.in.forward.....hi
91140	64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f	dden_states.=.self.dense(hidden_
91160	73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	states)...File."/home/hsiangnian
91180	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
911a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72	lib/python3.10/site-packages/tor
911c0	63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31	ch/nn/modules/linear.py",.line.1
911e0	33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65	34,.in.forward.....return.F.line
91200	61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73	ar(input,.self.weight,.self.bias
91220	29 0a 9b 13 0a 07 76 61 6c 5f 34 33 30 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	).....val_430.&bert.encoder.laye
91240	72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 32 39	r.4.output.dense.bias..linear_29
91260	1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 32 39 22 03 41 64 64 4a c0 03 0a 09 6e 61 6d 65 73 70	..node_linear_29".AddJ....namesp
91280	61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ace...:.transformers.models.bert
912a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
912c0	69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ification/bert:.transformers.mod
912e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
91300	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	/bert.encoder:.transformers.mode
91320	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
91340	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72	r/bert.encoder.layer.4:.transfor
91360	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
91380	65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75	ertLayer/bert.encoder.layer.4.ou
913a0	74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tput:.transformers.models.bert.m
913c0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63	odeling_bert.BertOutput/bert.enc
913e0	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68	oder.layer.4.output.dense:.torch
91400	2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72	.nn.modules.linear.Linear/linear
91420	5f 32 39 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4 02 0a 1e 70 6b 67	_29:.aten.linear.defaultJ....pkg
91440	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d1 02 5b 27	.torch.onnx.class_hierarchy...['
91460	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
91480	67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f	g_bert.BertForTokenClassificatio
914a0	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
914c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertModel',.'transfo
914e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
91500	42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	BertEncoder',.'transformers.mode
91520	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27	ls.bert.modeling_bert.BertLayer'
91540	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
91560	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e	ling_bert.BertOutput',.'torch.nn
91580	2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c	.modules.linear.Linear',.'aten.l
915a0	69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	inear.default']J....pkg.torch.on
915c0	6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 32 39 20 3a 20 5b 6e 75 6d 5f 75	nx.fx_node...%linear_29.:.[num_u
915e0	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
91600	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72	orch.ops.aten.linear.default](ar
91620	67 73 20 3d 20 28 25 67 65 6c 75 5f 34 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c	gs.=.(%gelu_4,.%p_bert_encoder_l
91640	61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62	ayer_4_output_dense_weight,.%p_b
91660	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65	ert_encoder_layer_4_output_dense
91680	5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70 6b 67 2e 74 6f 72	_bias),.kwargs.=.{})J....pkg.tor
916a0	63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c 20 27 62 65 72 74	ch.onnx.name_scopes...['',.'bert
916c0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	',.'bert.encoder',.'bert.encoder
916e0	2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34	.layer.4',.'bert.encoder.layer.4
91700	2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	.output',.'bert.encoder.layer.4.
91720	6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 32 39 27 5d 4a 81 09 0a 1a	output.dense',.'linear_29']J....
91740	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
91760	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
91780	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
917a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
917c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
917e0	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
91800	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
91820	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
91840	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
91860	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
91880	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
918a0	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
918c0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
918e0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
91900	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
91920	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
91940	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
91960	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
91980	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
919a0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
919c0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
919e0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
91a00	69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.588,.in.forward.....layer_ou
91a20	74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64	tput.=.apply_chunking_to_forward
91a40	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
91a60	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
91a80	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
91aa0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
91ac0	22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64	",.line.525,.in.forward.....hidd
91ae0	65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74	en_states.=.self.dense(hidden_st
91b00	61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ates)...File."/home/hsiangniania
91b20	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
91b40	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68	b/python3.10/site-packages/torch
91b60	2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34	/nn/modules/linear.py",.line.134
91b80	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72	,.in.forward.....return.F.linear
91ba0	28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a	(input,.self.weight,.self.bias).
91bc0	f3 0f 0a 09 6c 69 6e 65 61 72 5f 32 39 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 39 12 07 61 64 64	....linear_29..layer_norm_9..add
91be0	5f 34 33 35 1a 0c 6e 6f 64 65 5f 61 64 64 5f 34 33 35 22 03 41 64 64 4a f8 02 0a 09 6e 61 6d 65	_435..node_add_435".AddJ....name
91c00	73 70 61 63 65 12 ea 02 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
91c20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
91c40	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
91c60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
91c80	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
91ca0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
91cc0	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.4:.transf
91ce0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
91d00	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	.BertLayer/bert.encoder.layer.4.
91d20	6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	output:.transformers.models.bert
91d40	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 61 64 64 5f 34 33	.modeling_bert.BertOutput/add_43
91d60	35 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a ce 02 0a 1e 70 6b 67 2e 74 6f 72 63 68	5:.aten.add.TensorJ....pkg.torch
91d80	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 ab 02 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
91da0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
91dc0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
91de0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
91e00	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
91e20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
91e40	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
91e60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
91e80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
91ea0	65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f	ert.BertOutput',.'aten.add.Tenso
91ec0	72 27 5d 4a 94 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 7a	r']J....pkg.torch.onnx.fx_node.z
91ee0	25 61 64 64 5f 34 33 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	%add_435.:.[num_users=1].=.call_
91f00	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61	function[target=torch.ops.aten.a
91f20	64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 31 31 2c 20 25 6c	dd.Tensor](args.=.(%clone_11,.%l
91f40	61 79 65 72 5f 6e 6f 72 6d 5f 39 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 7c 0a 1a 70 6b	ayer_norm_9),.kwargs.=.{})J|..pk
91f60	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 5e 5b 27 27 2c 20 27	g.torch.onnx.name_scopes.^['',.'
91f80	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
91fa0	6f 64 65 72 2e 6c 61 79 65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.4',.'bert.encoder.lay
91fc0	65 72 2e 34 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 34 33 35 27 5d 4a da 07 0a 1a 70 6b 67	er.4.output',.'add_435']J....pkg
91fe0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 bb 07 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
92000	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
92020	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
92040	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
92060	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
92080	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
920a0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
920c0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
920e0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
92100	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
92120	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
92140	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
92160	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
92180	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
921a0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
921c0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
921e0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
92200	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
92220	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
92240	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
92260	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
92280	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
922a0	20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.588,.in.forward.....layer_outpu
922c0	74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20	t.=.apply_chunking_to_forward(..
922e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
92300	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
92320	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
92340	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
92360	6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f	line.527,.in.forward.....hidden_
92380	73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73	states.=.self.LayerNorm(hidden_s
923a0	74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a eb 14 0a 07 61 64 64 5f 34 33	tates.+.input_tensor).....add_43
923c0	35 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c	5.,bert.encoder.layer.4.output.L
923e0	61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	ayerNorm.weight.*bert.encoder.la
92400	79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0d 6c 61 79	yer.4.output.LayerNorm.bias..lay
92420	65 72 5f 6e 6f 72 6d 5f 31 30 1a 12 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 22 12	er_norm_10..node_layer_norm_10".
92440	4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74 61 73 68 5f 74 79 70 65	LayerNormalization*...stash_type
92460	18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01 2a 14 0a 04 61 78 69 73	.....*...epsilon....+...*...axis
92480	18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a d6 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 c8 03 3a	..............J....namespace...:
924a0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
924c0	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
924e0	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
92500	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
92520	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
92540	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
92560	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.4:.transformers.mo
92580	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
925a0	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 3a 20 74	r/bert.encoder.layer.4.output:.t
925c0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
925e0	5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	_bert.BertOutput/bert.encoder.la
92600	79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e	yer.4.output.LayerNorm:.torch.nn
92620	2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d	.modules.normalization.LayerNorm
92640	2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e	/layer_norm_10:.aten.layer_norm.
92660	64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
92680	5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
926a0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
926c0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
926e0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
92700	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
92720	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
92740	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
92760	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
92780	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74	odels.bert.modeling_bert.BertOut
927a0	70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a	put',.'torch.nn.modules.normaliz
927c0	61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f	ation.LayerNorm',.'aten.layer_no
927e0	72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 81 02 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	rm.default']J....pkg.torch.onnx.
92800	66 78 5f 6e 6f 64 65 12 e6 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 20 3a 20 5b 6e 75 6d 5f	fx_node...%layer_norm_10.:.[num_
92820	75 73 65 72 73 3d 34 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d	users=4].=.call_function[target=
92840	74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c	torch.ops.aten.layer_norm.defaul
92860	74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 34 33 35 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62	t](args.=.(%add_435,.[256],.%p_b
92880	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	ert_encoder_layer_4_output_layer
928a0	6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79	norm_weight,.%p_bert_encoder_lay
928c0	65 72 5f 34 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 2c 20 31 65 2d 31	er_4_output_layernorm_bias,.1e-1
928e0	32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	2),.kwargs.=.{})J....pkg.torch.o
92900	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
92920	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
92940	65 72 2e 34 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74	er.4',.'bert.encoder.layer.4.out
92960	70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70	put',.'bert.encoder.layer.4.outp
92980	75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 27 5d 4a	ut.LayerNorm',.'layer_norm_10']J
929a0	81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2	....pkg.torch.onnx.stack_trace..
929c0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
929e0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
92a00	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
92a20	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
92a40	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
92a60	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
92a80	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
92aa0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
92ac0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
92ae0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
92b00	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
92b20	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
92b40	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
92b60	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
92b80	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
92ba0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
92bc0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
92be0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
92c00	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
92c20	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
92c40	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
92c60	22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65	",.line.588,.in.forward.....laye
92c80	72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72	r_output.=.apply_chunking_to_for
92ca0	77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ward(...File."/home/hsiangniania
92cc0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
92ce0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
92d00	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
92d20	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.527,.in.forward.....
92d40	68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68	hidden_states.=.self.LayerNorm(h
92d60	69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a 20 20 46	idden_states.+.input_tensor)...F
92d80	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
92da0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
92dc0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c	.10/site-packages/torch/nn/modul
92de0	65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e 65 20 32 32 39 2c 20	es/normalization.py",.line.229,.
92e00	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f	in.forward.....return.F.layer_no
92e20	72 6d 28 0a f5 16 0a 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 0a 07 76 61 6c 5f 34 33 33 12 07	rm(.....layer_norm_10..val_433..
92e40	76 61 6c 5f 34 33 34 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 31 32 22 06 4d 61 74 4d 75 6c	val_434..node_MatMul_412".MatMul
92e60	4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	J....namespace...:.transformers.
92e80	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
92ea0	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73	rTokenClassification/bert:.trans
92ec0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
92ee0	74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66	t.BertModel/bert.encoder:.transf
92f00	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
92f20	2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	.BertEncoder/bert.encoder.layer.
92f40	35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	5:.transformers.models.bert.mode
92f60	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertLayer/bert.encoder
92f80	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	.layer.5.attention:.transformers
92fa0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
92fc0	74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	ttention/bert.encoder.layer.5.at
92fe0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tention.self:.transformers.model
93000	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
93020	66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	fAttention/bert.encoder.layer.5.
93040	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d	attention.self.query:.torch.nn.m
93060	6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 30 3a 20	odules.linear.Linear/linear_30:.
93080	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63	aten.linear.defaultJ....pkg.torc
930a0	68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73	h.onnx.class_hierarchy...['trans
930c0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
930e0	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27	t.BertForTokenClassification',.'
93100	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
93120	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertModel',.'transformers
93140	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
93160	6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ncoder',.'transformers.models.be
93180	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72	rt.modeling_bert.BertLayer',.'tr
931a0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
931c0	62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	bert.BertAttention',.'transforme
931e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
93200	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d	tSdpaSelfAttention',.'torch.nn.m
93220	6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e	odules.linear.Linear',.'aten.lin
93240	65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f9 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	ear.default']J....pkg.torch.onnx
93260	2e 66 78 5f 6e 6f 64 65 12 de 01 25 6c 69 6e 65 61 72 5f 33 30 20 3a 20 5b 6e 75 6d 5f 75 73 65	.fx_node...%linear_30.:.[num_use
93280	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
932a0	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73	ch.ops.aten.linear.default](args
932c0	20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f	.=.(%layer_norm_10,.%p_bert_enco
932e0	64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79	der_layer_5_attention_self_query
93300	5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35	_weight,.%p_bert_encoder_layer_5
93320	5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77 61	_attention_self_query_bias),.kwa
93340	72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d	rgs.=.{})J....pkg.torch.onnx.nam
93360	65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e	e_scopes...['',.'bert',.'bert.en
93380	63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20	coder',.'bert.encoder.layer.5',.
933a0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27	'bert.encoder.layer.5.attention'
933c0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.5.attentio
933e0	6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	n.self',.'bert.encoder.layer.5.a
93400	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 33 30	ttention.self.query',.'linear_30
93420	27 5d 4a f6 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63	']J....pkg.torch.onnx.stack_trac
93440	65 12 d7 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	e...File."/home/hsiangnianian/gi
93460	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
93480	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
934a0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
934c0	22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74	",.line.1676,.in.forward.....out
934e0	70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.bert(...File."/home/
93500	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
93520	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
93540	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
93560	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e	modeling_bert.py",.line.1000,.in
93580	20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73	.forward.....encoder_outputs.=.s
935a0	65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	elf.encoder(...File."/home/hsian
935c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
935e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
93600	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
93620	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.650,.in.forwa
93640	72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64	rd.....layer_outputs.=.layer_mod
93660	75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ule(...File."/home/hsiangnianian
93680	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
936a0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
936c0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
936e0	2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.558,.in.forward.....s
93700	65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74	elf_attention_outputs.=.self.att
93720	65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ention(...File."/home/hsiangnian
93740	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
93760	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
93780	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
937a0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.488,.in.forward...
937c0	20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69	..self_outputs.=.self.self(...Fi
937e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
93800	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
93820	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
93840	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
93860	65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79	e.363,.in.forward.....self.query
93880	28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65	(hidden_states).view(bsz,.-1,.se
938a0	6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74	lf.num_attention_heads,.self.att
938c0	65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32	ention_head_size).transpose(1,.2
938e0	29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	)...File."/home/hsiangnianian/gi
93900	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
93920	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f	thon3.10/site-packages/torch/nn/
93940	6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e	modules/linear.py",.line.134,.in
93960	20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70	.forward.....return.F.linear(inp
93980	75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 94 17 0a 07	ut,.self.weight,.self.bias).....
939a0	76 61 6c 5f 34 33 34 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	val_434..bert.encoder.layer.5.at
939c0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f	tention.self.query.bias..linear_
939e0	33 30 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 30 22 03 41 64 64 4a b0 04 0a 09 6e 61 6d 65	30..node_linear_30".AddJ....name
93a00	73 70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
93a20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
93a40	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
93a60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
93a80	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
93aa0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
93ac0	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.5:.transf
93ae0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
93b00	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	.BertLayer/bert.encoder.layer.5.
93b20	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
93b40	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
93b60	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.5.attention.s
93b80	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
93ba0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
93bc0	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.5.attention
93be0	2e 73 65 6c 66 2e 71 75 65 72 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	.self.query:.torch.nn.modules.li
93c00	6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 30 3a 20 61 74 65 6e 2e 6c 69 6e 65	near.Linear/linear_30:.aten.line
93c20	61 72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	ar.defaultJ....pkg.torch.onnx.cl
93c40	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
93c60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
93c80	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
93ca0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
93cc0	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
93ce0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
93d00	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
93d20	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
93d40	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
93d60	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
93d80	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66	.bert.modeling_bert.BertSdpaSelf
93da0	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	Attention',.'torch.nn.modules.li
93dc0	6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	near.Linear',.'aten.linear.defau
93de0	6c 74 27 5d 4a f9 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
93e00	de 01 25 6c 69 6e 65 61 72 5f 33 30 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	..%linear_30.:.[num_users=1].=.c
93e20	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
93e40	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65	en.linear.default](args.=.(%laye
93e60	72 5f 6e 6f 72 6d 5f 31 30 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	r_norm_10,.%p_bert_encoder_layer
93e80	5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 2c 20	_5_attention_self_query_weight,.
93ea0	25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f	%p_bert_encoder_layer_5_attentio
93ec0	6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	n_self_query_bias),.kwargs.=.{})
93ee0	4a d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
93f00	b7 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
93f20	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.5',.'bert.enc
93f40	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.5.attention',.'bert.e
93f60	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.5.attention.self',.
93f80	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.5.attention.
93fa0	73 65 6c 66 2e 71 75 65 72 79 27 2c 20 27 6c 69 6e 65 61 72 5f 33 30 27 5d 4a f6 0a 0a 1a 70 6b	self.query',.'linear_30']J....pk
93fc0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d7 0a 46 69 6c 65 20	g.torch.onnx.stack_trace...File.
93fe0	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
94000	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
94020	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
94040	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31	s/bert/modeling_bert.py",.line.1
94060	36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65	676,.in.forward.....outputs.=.se
94080	6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.bert(...File."/home/hsiangnia
940a0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
940c0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
940e0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
94100	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	bert.py",.line.1000,.in.forward.
94120	20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64	....encoder_outputs.=.self.encod
94140	65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	er(...File."/home/hsiangnianian/
94160	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
94180	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
941a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
941c0	70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61	py",.line.650,.in.forward.....la
941e0	79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69	yer_outputs.=.layer_module(...Fi
94200	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
94220	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
94240	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
94260	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
94280	65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e	e.558,.in.forward.....self_atten
942a0	74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20	tion_outputs.=.self.attention(..
942c0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
942e0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
94300	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
94320	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
94340	6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75	line.488,.in.forward.....self_ou
94360	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.self(...File."/home
94380	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
943a0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
943c0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
943e0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e	/modeling_bert.py",.line.363,.in
94400	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73	.forward.....self.query(hidden_s
94420	74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74	tates).view(bsz,.-1,.self.num_at
94440	74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65	tention_heads,.self.attention_he
94460	61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 20 20 46 69 6c 65 20	ad_size).transpose(1,.2)...File.
94480	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
944a0	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
944c0	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c	site-packages/torch/nn/modules/l
944e0	69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	inear.py",.line.134,.in.forward.
94500	20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e	....return.F.linear(input,.self.
94520	77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d4 13 0a 09 6c 69 6e 65 61 72 5f 33 30	weight,.self.bias).....linear_30
94540	0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77 5f 32 30 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 32 30 22	..val_68..view_20..node_view_20"
94560	07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e	.Reshape*...allowzero.....J....n
94580	61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
945a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
945c0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
945e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
94600	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
94620	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
94640	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61	ncoder/bert.encoder.layer.5:.tra
94660	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
94680	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
946a0	2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.5.attention:.transformers.model
946c0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
946e0	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.5.attentio
94700	6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n.self:.transformers.models.bert
94720	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
94740	74 69 6f 6e 2f 76 69 65 77 5f 32 30 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a	tion/view_20:.aten.view.defaultJ
94760	93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
94780	68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
947a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
947c0	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
947e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
94800	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
94820	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
94840	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
94860	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
94880	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
948a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
948c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
948e0	20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f	.'aten.view.default']J....pkg.to
94900	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 32 30 20 3a 20 5b 6e	rch.onnx.fx_node...%view_20.:.[n
94920	75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67	um_users=1].=.call_function[targ
94940	65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28	et=torch.ops.aten.view.default](
94960	61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33 30 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69	args.=.(%linear_30,.[%sym_size_i
94980	6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	nt_45,.-1,.8,.32]),.kwargs.=.{})
949a0	4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
949c0	88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
949e0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.5',.'bert.enc
94a00	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.5.attention',.'bert.e
94a20	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.5.attention.self',.
94a40	27 76 69 65 77 5f 32 30 27 5d 4a bc 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	'view_20']J....pkg.torch.onnx.st
94a60	61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
94a80	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
94aa0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
94ac0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
94ae0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
94b00	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
94b20	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
94b40	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
94b60	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
94b80	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
94ba0	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
94bc0	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
94be0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
94c00	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
94c20	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
94c40	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
94c60	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
94c80	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
94ca0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
94cc0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
94ce0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
94d00	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
94d20	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
94d40	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
94d60	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
94d80	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
94da0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
94dc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
94de0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
94e00	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
94e20	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
94e40	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
94e60	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
94e80	70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.363,.in.forward.....se
94ea0	6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a	lf.query(hidden_states).view(bsz
94ec0	2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20	,.-1,.self.num_attention_heads,.
94ee0	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70	self.attention_head_size).transp
94f00	6f 73 65 28 31 2c 20 32 29 0a cd 13 0a 07 76 69 65 77 5f 32 30 12 0c 74 72 61 6e 73 70 6f 73 65	ose(1,.2).....view_20..transpose
94f20	5f 32 30 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 32 30 22 09 54 72 61 6e 73 70 6f 73	_20..node_transpose_20".Transpos
94f40	65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61	e*...perm@.@.@.@....J....namespa
94f60	63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ce...:.transformers.models.bert.
94f80	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
94fa0	66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	fication/bert:.transformers.mode
94fc0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f	ls.bert.modeling_bert.BertModel/
94fe0	62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	bert.encoder:.transformers.model
95000	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
95020	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d	/bert.encoder.layer.5:.transform
95040	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
95060	72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	rtLayer/bert.encoder.layer.5.att
95080	65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ention:.transformers.models.bert
950a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72	.modeling_bert.BertAttention/ber
950c0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.5.attention.self
950e0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
95100	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74	ing_bert.BertSdpaSelfAttention/t
95120	72 61 6e 73 70 6f 73 65 5f 32 30 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a	ranspose_20:.aten.transpose.intJ
95140	94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63	....pkg.torch.onnx.class_hierarc
95160	68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	hy...['transformers.models.bert.
95180	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69	modeling_bert.BertForTokenClassi
951a0	66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	fication',.'transformers.models.
951c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27	bert.modeling_bert.BertModel',.'
951e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
95200	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	g_bert.BertEncoder',.'transforme
95220	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
95240	74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tLayer',.'transformers.models.be
95260	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c	rt.modeling_bert.BertAttention',
95280	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
952a0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c	ing_bert.BertSdpaSelfAttention',
952c0	20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74	.'aten.transpose.int']J....pkg.t
952e0	6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 32 30	orch.onnx.fx_node.x%transpose_20
95300	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
95320	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65	[target=torch.ops.aten.transpose
95340	2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 32 30 2c 20 31 2c 20 32 29 2c 20 6b	.int](args.=.(%view_20,.1,.2),.k
95360	77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e	wargs.=.{})J....pkg.torch.onnx.n
95380	61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e	ame_scopes...['',.'bert',.'bert.
953a0	65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27	encoder',.'bert.encoder.layer.5'
953c0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	,.'bert.encoder.layer.5.attentio
953e0	6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74	n',.'bert.encoder.layer.5.attent
95400	69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 32 30 27 5d 4a bc 09 0a 1a 70	ion.self',.'transpose_20']J....p
95420	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 9d 09 46 69 6c 65	kg.torch.onnx.stack_trace...File
95440	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
95460	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
95480	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
954a0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
954c0	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
954e0	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
95500	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
95520	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
95540	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
95560	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
95580	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
955a0	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
955c0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
955e0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
95600	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
95620	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
95640	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
95660	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
95680	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
956a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
956c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
956e0	6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65	ne.558,.in.forward.....self_atte
95700	6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a	ntion_outputs.=.self.attention(.
95720	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
95740	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
95760	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
95780	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
957a0	20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f	.line.488,.in.forward.....self_o
957c0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.self(...File."/hom
957e0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
95800	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
95820	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
95840	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 36 33 2c 20 69	t/modeling_bert.py",.line.363,.i
95860	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 71 75 65 72 79 28 68 69 64 64 65 6e 5f	n.forward.....self.query(hidden_
95880	73 74 61 74 65 73 29 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61	states).view(bsz,.-1,.self.num_a
958a0	74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68	ttention_heads,.self.attention_h
958c0	65 61 64 5f 73 69 7a 65 29 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a 9a 16 0a 0d 6c 61	ead_size).transpose(1,.2).....la
958e0	79 65 72 5f 6e 6f 72 6d 5f 31 30 0a 07 76 61 6c 5f 34 34 31 12 07 76 61 6c 5f 34 34 32 1a 0f 6e	yer_norm_10..val_441..val_442..n
95900	6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 32 30 22 06 4d 61 74 4d 75 6c 4a ae 04 0a 09 6e 61 6d 65 73	ode_MatMul_420".MatMulJ....names
95920	70 61 63 65 12 a0 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
95940	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
95960	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
95980	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
959a0	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
959c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
959e0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.5:.transfo
95a00	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
95a20	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	BertLayer/bert.encoder.layer.5.a
95a40	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
95a60	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
95a80	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.5.attention.se
95aa0	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
95ac0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
95ae0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.5.attention.
95b00	73 65 6c 66 2e 6b 65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61	self.key:.torch.nn.modules.linea
95b20	72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 31 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	r.Linear/linear_31:.aten.linear.
95b40	64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
95b60	5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
95b80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
95ba0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
95bc0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
95be0	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
95c00	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
95c20	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
95c40	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
95c60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
95c80	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
95ca0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
95cc0	65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61	ention',.'torch.nn.modules.linea
95ce0	72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27	r.Linear',.'aten.linear.default'
95d00	5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 da 01 25	]J....pkg.torch.onnx.fx_node...%
95d20	6c 69 6e 65 61 72 5f 33 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	linear_31.:.[num_users=1].=.call
95d40	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
95d60	6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e	linear.default](args.=.(%layer_n
95d80	6f 72 6d 5f 31 30 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f	orm_10,.%p_bert_encoder_layer_5_
95da0	61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65	attention_self_key_weight,.%p_be
95dc0	72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c	rt_encoder_layer_5_attention_sel
95de0	66 5f 6b 65 79 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b	f_key_bias),.kwargs.=.{})J....pk
95e00	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
95e20	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
95e40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.5',.'bert.encoder.la
95e60	79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.5.attention',.'bert.encoder.
95e80	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65	layer.5.attention.self',.'bert.e
95ea0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65	ncoder.layer.5.attention.self.ke
95ec0	79 27 2c 20 27 6c 69 6e 65 61 72 5f 33 31 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	y',.'linear_31']J....pkg.torch.o
95ee0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
95f00	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
95f20	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
95f40	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
95f60	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
95f80	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
95fa0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
95fc0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
95fe0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
96000	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
96020	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
96040	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
96060	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
96080	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
960a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
960c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
960e0	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
96100	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
96120	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
96140	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
96160	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
96180	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
961a0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
961c0	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
961e0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
96200	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
96220	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
96240	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
96260	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
96280	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
962a0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
962c0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
962e0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
96300	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.387,.in.forward.
96320	20 20 20 20 73 65 6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46	....self.key(current_states)...F
96340	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
96360	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
96380	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c	.10/site-packages/torch/nn/modul
963a0	65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77	es/linear.py",.line.134,.in.forw
963c0	61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73	ard.....return.F.linear(input,.s
963e0	65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a b7 16 0a 07 76 61 6c 5f 34	elf.weight,.self.bias).....val_4
96400	34 32 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	42.,bert.encoder.layer.5.attenti
96420	6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 33 31 1a 0e 6e 6f 64	on.self.key.bias..linear_31..nod
96440	65 5f 6c 69 6e 65 61 72 5f 33 31 22 03 41 64 64 4a ae 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a0	e_linear_31".AddJ....namespace..
96460	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
96480	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
964a0	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
964c0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
964e0	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
96500	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
96520	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.5:.transformers.
96540	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
96560	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.5.attenti
96580	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
965a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
965c0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.5.attention.self:.tr
965e0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
96600	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	bert.BertSdpaSelfAttention/bert.
96620	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b	encoder.layer.5.attention.self.k
96640	65 79 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65	ey:.torch.nn.modules.linear.Line
96660	61 72 2f 6c 69 6e 65 61 72 5f 33 31 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ar/linear_31:.aten.linear.defaul
96680	74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
966a0	72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
966c0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
966e0	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
96700	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
96720	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
96740	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
96760	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
96780	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
967a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
967c0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
967e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
96800	27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65	',.'torch.nn.modules.linear.Line
96820	61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f5 01 0a 16	ar',.'aten.linear.default']J....
96840	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 da 01 25 6c 69 6e 65 61 72	pkg.torch.onnx.fx_node...%linear
96860	5f 33 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74	_31.:.[num_users=1].=.call_funct
96880	69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72	ion[target=torch.ops.aten.linear
968a0	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30	.default](args.=.(%layer_norm_10
968c0	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74	,.%p_bert_encoder_layer_5_attent
968e0	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	ion_self_key_weight,.%p_bert_enc
96900	6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f	oder_layer_5_attention_self_key_
96920	62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d4 01 0a 1a 70 6b 67 2e 74 6f 72 63	bias),.kwargs.=.{})J....pkg.torc
96940	68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b5 01 5b 27 27 2c 20 27 62 65 72 74 27	h.onnx.name_scopes...['',.'bert'
96960	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	,.'bert.encoder',.'bert.encoder.
96980	6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	layer.5',.'bert.encoder.layer.5.
969a0	61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	attention',.'bert.encoder.layer.
969c0	35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	5.attention.self',.'bert.encoder
969e0	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 27 2c 20 27 6c	.layer.5.attention.self.key',.'l
96a00	69 6e 65 61 72 5f 33 31 27 5d 4a a3 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74	inear_31']J....pkg.torch.onnx.st
96a20	61 63 6b 5f 74 72 61 63 65 12 84 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ack_trace...File."/home/hsiangni
96a40	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
96a60	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
96a80	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
96aa0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1676,.in.forward
96ac0	0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65	.....outputs.=.self.bert(...File
96ae0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
96b00	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
96b20	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
96b40	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
96b60	31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74	1000,.in.forward.....encoder_out
96b80	70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.self.encoder(...File."/ho
96ba0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
96bc0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
96be0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
96c00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20	rt/modeling_bert.py",.line.650,.
96c20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c	in.forward.....layer_outputs.=.l
96c40	61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	ayer_module(...File."/home/hsian
96c60	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
96c80	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
96ca0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
96cc0	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.558,.in.forwa
96ce0	72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20	rd.....self_attention_outputs.=.
96d00	73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	self.attention(...File."/home/hs
96d20	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
96d40	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
96d60	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
96d80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.488,.in.fo
96da0	72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65	rward.....self_outputs.=.self.se
96dc0	6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	lf(...File."/home/hsiangnianian/
96de0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
96e00	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
96e20	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
96e40	70 79 22 2c 20 6c 69 6e 65 20 33 38 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65	py",.line.387,.in.forward.....se
96e60	6c 66 2e 6b 65 79 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	lf.key(current_states)...File."/
96e80	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
96ea0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
96ec0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
96ee0	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
96f00	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
96f20	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a ab 13 0a 09 6c 69 6e 65 61 72 5f 33 31 0a 06	ight,.self.bias).....linear_31..
96f40	76 61 6c 5f 36 38 12 07 76 69 65 77 5f 32 31 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 32 31 22 07 52	val_68..view_21..node_view_21".R
96f60	65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d	eshape*...allowzero.....J....nam
96f80	65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
96fa0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
96fc0	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
96fe0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
97000	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
97020	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
97040	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.5:.trans
97060	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
97080	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	t.BertLayer/bert.encoder.layer.5
970a0	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
970c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
970e0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.5.attention.
97100	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
97120	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
97140	6f 6e 2f 76 69 65 77 5f 32 31 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03	on/view_21:.aten.view.defaultJ..
97160	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
97180	12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
971a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
971c0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
971e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
97200	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
97220	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
97240	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
97260	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
97280	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
972a0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
972c0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
972e0	61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63	aten.view.default']J....pkg.torc
97300	68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d 01 25 76 69 65 77 5f 32 31 20 3a 20 5b 6e 75 6d	h.onnx.fx_node...%view_21.:.[num
97320	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
97340	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72	=torch.ops.aten.view.default](ar
97360	67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33 31 2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74	gs.=.(%linear_31,.[%sym_size_int
97380	5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7	_45,.-1,.8,.32]),.kwargs.=.{})J.
973a0	01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01	...pkg.torch.onnx.name_scopes...
973c0	5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65	['',.'bert',.'bert.encoder',.'be
973e0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	rt.encoder.layer.5',.'bert.encod
97400	65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63	er.layer.5.attention',.'bert.enc
97420	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76	oder.layer.5.attention.self',.'v
97440	69 65 77 5f 32 31 27 5d 4a 93 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63	iew_21']J....pkg.torch.onnx.stac
97460	6b 5f 74 72 61 63 65 12 f4 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	k_trace...File."/home/hsiangnian
97480	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
974a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
974c0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
974e0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1676,.in.forward..
97500	20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22	...outputs.=.self.bert(...File."
97520	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
97540	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
97560	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
97580	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30	/bert/modeling_bert.py",.line.10
975a0	30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75	00,.in.forward.....encoder_outpu
975c0	74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.self.encoder(...File."/home
975e0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
97600	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
97620	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
97640	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e	/modeling_bert.py",.line.650,.in
97660	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79	.forward.....layer_outputs.=.lay
97680	65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	er_module(...File."/home/hsiangn
976a0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
976c0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
976e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
97700	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.558,.in.forward
97720	0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	.....self_attention_outputs.=.se
97740	6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	lf.attention(...File."/home/hsia
97760	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
97780	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
977a0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
977c0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.488,.in.forw
977e0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66	ard.....self_outputs.=.self.self
97800	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
97820	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
97840	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
97860	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
97880	22 2c 20 6c 69 6e 65 20 33 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65	",.line.388,.in.forward......vie
978a0	77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e 6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65	w(bsz,.-1,.self.num_attention_he
978c0	61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a f2	ads,.self.attention_head_size)..
978e0	12 0a 07 76 69 65 77 5f 32 31 12 0c 74 72 61 6e 73 70 6f 73 65 5f 32 31 1a 11 6e 6f 64 65 5f 74	...view_21..transpose_21..node_t
97900	72 61 6e 73 70 6f 73 65 5f 32 31 22 09 54 72 61 6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00	ranspose_21".Transpose*...perm@.
97920	40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e	@.@.@....J....namespace...:.tran
97940	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
97960	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
97980	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
979a0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
979c0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
979e0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
97a00	65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.5:.transformers.models.
97a20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
97a40	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.5.attention:.tra
97a60	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
97a80	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
97aa0	61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.5.attention.self:.transform
97ac0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
97ae0	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 32 31	rtSdpaSelfAttention/transpose_21
97b00	3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72	:.aten.transpose.intJ....pkg.tor
97b20	63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e	ch.onnx.class_hierarchy...['tran
97b40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
97b60	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20	rt.BertForTokenClassification',.
97b80	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
97ba0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertModel',.'transformer
97bc0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
97be0	45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	Encoder',.'transformers.models.b
97c00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74	ert.modeling_bert.BertLayer',.'t
97c20	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
97c40	5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	_bert.BertAttention',.'transform
97c60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
97c80	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e	rtSdpaSelfAttention',.'aten.tran
97ca0	73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	spose.int']J....pkg.torch.onnx.f
97cc0	78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 20 3a 20 5b 6e 75 6d 5f 75 73 65	x_node.x%transpose_21.:.[num_use
97ce0	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
97d00	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20	ch.ops.aten.transpose.int](args.
97d20	3d 20 28 25 76 69 65 77 5f 32 31 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29	=.(%view_21,.1,.2),.kwargs.=.{})
97d40	4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12	J....pkg.torch.onnx.name_scopes.
97d60	8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	..['',.'bert',.'bert.encoder',.'
97d80	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.5',.'bert.enc
97da0	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65	oder.layer.5.attention',.'bert.e
97dc0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20	ncoder.layer.5.attention.self',.
97de0	27 74 72 61 6e 73 70 6f 73 65 5f 32 31 27 5d 4a e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	'transpose_21']J....pkg.torch.on
97e00	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
97e20	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
97e40	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
97e60	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
97e80	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
97ea0	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
97ec0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
97ee0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
97f00	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
97f20	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
97f40	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
97f60	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
97f80	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
97fa0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
97fc0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
97fe0	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
98000	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
98020	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
98040	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
98060	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
98080	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
980a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
980c0	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
980e0	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
98100	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
98120	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
98140	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
98160	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20	rt/modeling_bert.py",.line.488,.
98180	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	in.forward.....self_outputs.=.se
981a0	6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.self(...File."/home/hsiangnia
981c0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
981e0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
98200	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
98220	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 38 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.389,.in.forward..
98240	20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a a4 16 0a 0d 6c 61 79 65 72 5f 6e 6f	....transpose(1,.2).....layer_no
98260	72 6d 5f 31 30 0a 07 76 61 6c 5f 34 34 39 12 07 76 61 6c 5f 34 35 30 1a 0f 6e 6f 64 65 5f 4d 61	rm_10..val_449..val_450..node_Ma
98280	74 4d 75 6c 5f 34 32 38 22 06 4d 61 74 4d 75 6c 4a b0 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 a2	tMul_428".MatMulJ....namespace..
982a0	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
982c0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
982e0	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
98300	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
98320	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
98340	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
98360	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.5:.transformers.
98380	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
983a0	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.5.attenti
983c0	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
983e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
98400	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.5.attention.self:.tr
98420	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
98440	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	bert.BertSdpaSelfAttention/bert.
98460	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76	encoder.layer.5.attention.self.v
98480	61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69	alue:.torch.nn.modules.linear.Li
984a0	6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61	near/linear_32:.aten.linear.defa
984c0	75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
984e0	72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
98500	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
98520	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
98540	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
98560	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
98580	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
985a0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
985c0	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
985e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
98600	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
98620	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
98640	6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69	on',.'torch.nn.modules.linear.Li
98660	6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f9 01	near',.'aten.linear.default']J..
98680	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 de 01 25 6c 69 6e 65	..pkg.torch.onnx.fx_node...%line
986a0	61 72 5f 33 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ar_32.:.[num_users=1].=.call_fun
986c0	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65	ction[target=torch.ops.aten.line
986e0	61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f	ar.default](args.=.(%layer_norm_
98700	31 30 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65	10,.%p_bert_encoder_layer_5_atte
98720	6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74	ntion_self_value_weight,.%p_bert
98740	5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f	_encoder_layer_5_attention_self_
98760	76 61 6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a d6 01 0a 1a 70 6b	value_bias),.kwargs.=.{})J....pk
98780	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
987a0	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
987c0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.5',.'bert.encoder.la
987e0	79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.5.attention',.'bert.encoder.
98800	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 62 65 72 74 2e 65	layer.5.attention.self',.'bert.e
98820	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61	ncoder.layer.5.attention.self.va
98840	6c 75 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 32 27 5d 4a a5 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68	lue',.'linear_32']J....pkg.torch
98860	2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	.onnx.stack_trace...File."/home/
98880	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
988a0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
988c0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
988e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e	modeling_bert.py",.line.1676,.in
98900	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74	.forward.....outputs.=.self.bert
98920	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
98940	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
98960	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
98980	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
989a0	22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63	",.line.1000,.in.forward.....enc
989c0	6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46	oder_outputs.=.self.encoder(...F
989e0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
98a00	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
98a20	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
98a40	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
98a60	6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74	ne.650,.in.forward.....layer_out
98a80	70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.layer_module(...File."/ho
98aa0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
98ac0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
98ae0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
98b00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20	rt/modeling_bert.py",.line.558,.
98b20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	in.forward.....self_attention_ou
98b40	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22	tputs.=.self.attention(...File."
98b60	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
98b80	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
98ba0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
98bc0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38	/bert/modeling_bert.py",.line.48
98be0	38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d	8,.in.forward.....self_outputs.=
98c00	20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.self(...File."/home/hsiang
98c20	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
98c40	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
98c60	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
98c80	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.392,.in.forwar
98ca0	64 0a 20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73 74 61 74 65 73 29	d.....self.value(current_states)
98cc0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
98ce0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
98d00	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d	hon3.10/site-packages/torch/nn/m
98d20	6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20	odules/linear.py",.line.134,.in.
98d40	66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75	forward.....return.F.linear(inpu
98d60	74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a c3 16 0a 07 76	t,.self.weight,.self.bias).....v
98d80	61 6c 5f 34 35 30 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	al_450..bert.encoder.layer.5.att
98da0	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 33	ention.self.value.bias..linear_3
98dc0	32 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 32 22 03 41 64 64 4a b0 04 0a 09 6e 61 6d 65 73	2..node_linear_32".AddJ....names
98de0	70 61 63 65 12 a2 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
98e00	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
98e20	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
98e40	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
98e60	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
98e80	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
98ea0	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.5:.transfo
98ec0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
98ee0	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	BertLayer/bert.encoder.layer.5.a
98f00	74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ttention:.transformers.models.be
98f20	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62	rt.modeling_bert.BertAttention/b
98f40	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.5.attention.se
98f60	6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	lf:.transformers.models.bert.mod
98f80	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e	eling_bert.BertSdpaSelfAttention
98fa0	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.5.attention.
98fc0	73 65 6c 66 2e 76 61 6c 75 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	self.value:.torch.nn.modules.lin
98fe0	65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 32 3a 20 61 74 65 6e 2e 6c 69 6e 65 61	ear.Linear/linear_32:.aten.linea
99000	72 2e 64 65 66 61 75 6c 74 4a b7 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61	r.defaultJ....pkg.torch.onnx.cla
99020	73 73 5f 68 69 65 72 61 72 63 68 79 12 94 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	ss_hierarchy...['transformers.mo
99040	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
99060	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	okenClassification',.'transforme
99080	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
990a0	74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	tModel',.'transformers.models.be
990c0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27	rt.modeling_bert.BertEncoder',.'
990e0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
99100	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	g_bert.BertLayer',.'transformers
99120	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41	.models.bert.modeling_bert.BertA
99140	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ttention',.'transformers.models.
99160	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
99180	74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e	ttention',.'torch.nn.modules.lin
991a0	65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c	ear.Linear',.'aten.linear.defaul
991c0	74 27 5d 4a f9 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 de	t']J....pkg.torch.onnx.fx_node..
991e0	01 25 6c 69 6e 65 61 72 5f 33 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	.%linear_32.:.[num_users=1].=.ca
99200	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
99220	6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65 72	n.linear.default](args.=.(%layer
99240	5f 6e 6f 72 6d 5f 31 30 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	_norm_10,.%p_bert_encoder_layer_
99260	35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77 65 69 67 68 74 2c 20 25	5_attention_self_value_weight,.%
99280	70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e	p_bert_encoder_layer_5_attention
992a0	5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	_self_value_bias),.kwargs.=.{})J
992c0	d6 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 b7	....pkg.torch.onnx.name_scopes..
992e0	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
99300	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.5',.'bert.enco
99320	64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e	der.layer.5.attention',.'bert.en
99340	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27	coder.layer.5.attention.self',.'
99360	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.5.attention.s
99380	65 6c 66 2e 76 61 6c 75 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 32 27 5d 4a a5 0a 0a 1a 70 6b 67	elf.value',.'linear_32']J....pkg
993a0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 86 0a 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
993c0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
993e0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
99400	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
99420	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
99440	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
99460	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
99480	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
994a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
994c0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
994e0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
99500	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
99520	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
99540	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
99560	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
99580	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
995a0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
995c0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
995e0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
99600	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
99620	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
99640	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
99660	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
99680	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
996a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
996c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
996e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
99700	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
99720	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
99740	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
99760	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
99780	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
997a0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
997c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 32 2c 20 69 6e 20	modeling_bert.py",.line.392,.in.
997e0	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 2e 76 61 6c 75 65 28 63 75 72 72 65 6e 74 5f 73	forward.....self.value(current_s
99800	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
99820	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
99840	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63	ib/python3.10/site-packages/torc
99860	68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33	h/nn/modules/linear.py",.line.13
99880	34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61	4,.in.forward.....return.F.linea
998a0	72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29	r(input,.self.weight,.self.bias)
998c0	0a ab 13 0a 09 6c 69 6e 65 61 72 5f 33 32 0a 06 76 61 6c 5f 36 38 12 07 76 69 65 77 5f 32 32 1a	.....linear_32..val_68..view_22.
998e0	0c 6e 6f 64 65 5f 76 69 65 77 5f 32 32 22 07 52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a	.node_view_22".Reshape*...allowz
99900	65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73	ero.....J....namespace...:.trans
99920	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
99940	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72	t.BertForTokenClassification/ber
99960	74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	t:.transformers.models.bert.mode
99980	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72	ling_bert.BertModel/bert.encoder
999a0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
999c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ing_bert.BertEncoder/bert.encode
999e0	72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	r.layer.5:.transformers.models.b
99a00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74	ert.modeling_bert.BertLayer/bert
99a20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e	.encoder.layer.5.attention:.tran
99a40	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
99a60	72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	rt.BertAttention/bert.encoder.la
99a80	79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65	yer.5.attention.self:.transforme
99aa0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
99ac0	74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 76 69 65 77 5f 32 32 3a 20 61 74 65 6e	tSdpaSelfAttention/view_22:.aten
99ae0	2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.view.defaultJ....pkg.torch.onnx
99b00	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
99b20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
99b40	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
99b60	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
99b80	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
99ba0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
99bc0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
99be0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
99c00	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
99c20	65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	ertAttention',.'transformers.mod
99c40	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
99c60	65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c	elfAttention',.'aten.view.defaul
99c80	74 27 5d 4a a8 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8d	t']J....pkg.torch.onnx.fx_node..
99ca0	01 25 76 69 65 77 5f 32 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	.%view_22.:.[num_users=1].=.call
99cc0	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
99ce0	76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33 32	view.default](args.=.(%linear_32
99d00	2c 20 5b 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 35 2c 20 2d 31 2c 20 38 2c 20 33 32 5d 29	,.[%sym_size_int_45,.-1,.8,.32])
99d20	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
99d40	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
99d60	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
99d80	2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	.5',.'bert.encoder.layer.5.atten
99da0	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	tion',.'bert.encoder.layer.5.att
99dc0	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 32 32 27 5d 4a 93 09 0a 1a 70 6b 67	ention.self',.'view_22']J....pkg
99de0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f4 08 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
99e00	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
99e20	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
99e40	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
99e60	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
99e80	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
99ea0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
99ec0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
99ee0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
99f00	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
99f20	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
99f40	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
99f60	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
99f80	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
99fa0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
99fc0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
99fe0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
9a000	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
9a020	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
9a040	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
9a060	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
9a080	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
9a0a0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
9a0c0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
9a0e0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
9a100	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
9a120	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
9a140	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
9a160	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
9a180	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
9a1a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
9a1c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
9a1e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
9a200	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33 39 33 2c 20 69 6e 20	modeling_bert.py",.line.393,.in.
9a220	66 6f 72 77 61 72 64 0a 20 20 20 20 2e 76 69 65 77 28 62 73 7a 2c 20 2d 31 2c 20 73 65 6c 66 2e	forward......view(bsz,.-1,.self.
9a240	6e 75 6d 5f 61 74 74 65 6e 74 69 6f 6e 5f 68 65 61 64 73 2c 20 73 65 6c 66 2e 61 74 74 65 6e 74	num_attention_heads,.self.attent
9a260	69 6f 6e 5f 68 65 61 64 5f 73 69 7a 65 29 0a f2 12 0a 07 76 69 65 77 5f 32 32 12 0c 74 72 61 6e	ion_head_size).....view_22..tran
9a280	73 70 6f 73 65 5f 32 32 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 32 32 22 09 54 72 61	spose_22..node_transpose_22".Tra
9a2a0	6e 73 70 6f 73 65 2a 11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61	nspose*...perm@.@.@.@....J....na
9a2c0	6d 65 73 70 61 63 65 12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
9a2e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
9a300	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
9a320	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
9a340	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
9a360	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
9a380	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e	coder/bert.encoder.layer.5:.tran
9a3a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
9a3c0	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
9a3e0	35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	5.attention:.transformers.models
9a400	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
9a420	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.5.attention
9a440	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
9a460	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
9a480	69 6f 6e 2f 74 72 61 6e 73 70 6f 73 65 5f 32 32 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65	ion/transpose_22:.aten.transpose
9a4a0	2e 69 6e 74 4a 94 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	.intJ....pkg.torch.onnx.class_hi
9a4c0	65 72 61 72 63 68 79 12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
9a4e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
9a500	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
9a520	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
9a540	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
9a560	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
9a580	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
9a5a0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
9a5c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
9a5e0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
9a600	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
9a620	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a 92 01 0a 16	ion',.'aten.transpose.int']J....
9a640	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 78 25 74 72 61 6e 73 70 6f	pkg.torch.onnx.fx_node.x%transpo
9a660	73 65 5f 32 32 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	se_22.:.[num_users=1].=.call_fun
9a680	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e	ction[target=torch.ops.aten.tran
9a6a0	73 70 6f 73 65 2e 69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 32 32 2c 20 31 2c 20	spose.int](args.=.(%view_22,.1,.
9a6c0	32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	2),.kwargs.=.{})J....pkg.torch.o
9a6e0	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
9a700	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
9a720	65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	er.5',.'bert.encoder.layer.5.att
9a740	65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	ention',.'bert.encoder.layer.5.a
9a760	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 74 72 61 6e 73 70 6f 73 65 5f 32 32 27 5d 4a	ttention.self',.'transpose_22']J
9a780	e1 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 c2	....pkg.torch.onnx.stack_trace..
9a7a0	08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
9a7c0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
9a7e0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
9a800	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
9a820	6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74	line.1676,.in.forward.....output
9a840	73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	s.=.self.bert(...File."/home/hsi
9a860	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
9a880	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
9a8a0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
9a8c0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1000,.in.fo
9a8e0	72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66	rward.....encoder_outputs.=.self
9a900	2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	.encoder(...File."/home/hsiangni
9a920	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
9a940	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
9a960	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
9a980	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.650,.in.forward.
9a9a0	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65	....layer_outputs.=.layer_module
9a9c0	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
9a9e0	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
9aa00	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
9aa20	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
9aa40	22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66	",.line.558,.in.forward.....self
9aa60	5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74	_attention_outputs.=.self.attent
9aa80	69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	ion(...File."/home/hsiangnianian
9aaa0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
9aac0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
9aae0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
9ab00	2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73	.py",.line.488,.in.forward.....s
9ab20	65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20	elf_outputs.=.self.self(...File.
9ab40	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
9ab60	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
9ab80	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
9aba0	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 33	s/bert/modeling_bert.py",.line.3
9abc0	39 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 2e 74 72 61 6e 73 70 6f 73 65 28 31 2c	94,.in.forward......transpose(1,
9abe0	20 32 29 0a bc 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 31 12 07 76 61 6c 5f 34 36 36 1a 0e 6e	.2).....transpose_21..val_466..n
9ac00	6f 64 65 5f 53 68 61 70 65 5f 34 34 34 22 05 53 68 61 70 65 2a 0c 0a 05 73 74 61 72 74 18 00 a0	ode_Shape_444".Shape*...start...
9ac20	01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	..J....namespace...:.transformer
9ac40	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
9ac60	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61	ForTokenClassification/bert:.tra
9ac80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
9aca0	65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e	ert.BertModel/bert.encoder:.tran
9acc0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
9ace0	72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	rt.BertEncoder/bert.encoder.laye
9ad00	72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r.5:.transformers.models.bert.mo
9ad20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	deling_bert.BertLayer/bert.encod
9ad40	65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65	er.layer.5.attention:.transforme
9ad60	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
9ad80	74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	tAttention/bert.encoder.layer.5.
9ada0	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	attention.self:.transformers.mod
9adc0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53	els.bert.modeling_bert.BertSdpaS
9ade0	65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	elfAttention/scaled_dot_product_
9ae00	61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention_5:.aten.scaled_dot_pro
9ae20	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74	duct_attention.defaultJ....pkg.t
9ae40	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
9ae60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
9ae80	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
9aea0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
9aec0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
9aee0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
9af00	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
9af20	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
9af40	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
9af60	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
9af80	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
9afa0	42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63	BertSdpaSelfAttention',.'aten.sc
9afc0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
9afe0	6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
9b000	cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	..%scaled_dot_product_attention_
9b020	35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f	5.:.[num_users=1].=.call_functio
9b040	6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64	n[target=torch.ops.aten.scaled_d
9b060	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72	ot_product_attention.default](ar
9b080	67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	gs.=.(%transpose_20,.%transpose_
9b0a0	32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29	21,.%transpose_22,.%masked_fill)
9b0c0	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
9b0e0	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
9b100	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
9b120	2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	.5',.'bert.encoder.layer.5.atten
9b140	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	tion',.'bert.encoder.layer.5.att
9b160	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ention.self',.'scaled_dot_produc
9b180	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	t_attention_5']J....pkg.torch.on
9b1a0	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
9b1c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
9b1e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
9b200	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
9b220	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
9b240	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
9b260	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
9b280	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
9b2a0	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
9b2c0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
9b2e0	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
9b300	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
9b320	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
9b340	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
9b360	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
9b380	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
9b3a0	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
9b3c0	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
9b3e0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
9b400	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
9b420	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
9b440	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20	modeling_bert.py",.line.558,.in.
9b460	66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75	forward.....self_attention_outpu
9b480	74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	ts.=.self.attention(...File."/ho
9b4a0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
9b4c0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
9b4e0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
9b500	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20	rt/modeling_bert.py",.line.488,.
9b520	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	in.forward.....self_outputs.=.se
9b540	6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	lf.self(...File."/home/hsiangnia
9b560	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
9b580	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
9b5a0	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
9b5c0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.413,.in.forward..
9b5e0	20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69	...attn_output.=.torch.nn.functi
9b600	6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	onal.scaled_dot_product_attentio
9b620	6e 28 0a b9 14 0a 07 76 61 6c 5f 34 36 36 0a 06 76 61 6c 5f 36 35 0a 06 76 61 6c 5f 39 35 12 07	n(.....val_466..val_65..val_95..
9b640	76 61 6c 5f 34 36 38 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 34 34 36 22 05 53 6c 69 63 65 4a 91	val_468..node_Slice_446".SliceJ.
9b660	04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
9b680	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
9b6a0	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
9b6c0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
9b6e0	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
9b700	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
9b720	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a	ertEncoder/bert.encoder.layer.5:
9b740	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
9b760	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
9b780	61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ayer.5.attention:.transformers.m
9b7a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
9b7c0	65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	ention/bert.encoder.layer.5.atte
9b7e0	6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ntion.self:.transformers.models.
9b800	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41	bert.modeling_bert.BertSdpaSelfA
9b820	74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ttention/scaled_dot_product_atte
9b840	6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	ntion_5:.aten.scaled_dot_product
9b860	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68	_attention.defaultJ....pkg.torch
9b880	2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66	.onnx.class_hierarchy...['transf
9b8a0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
9b8c0	2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74	.BertForTokenClassification',.'t
9b8e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
9b900	5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	_bert.BertModel',.'transformers.
9b920	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
9b940	63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	coder',.'transformers.models.ber
9b960	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61	t.modeling_bert.BertLayer',.'tra
9b980	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
9b9a0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ert.BertAttention',.'transformer
9b9c0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
9b9e0	53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64	SdpaSelfAttention',.'aten.scaled
9ba00	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d	_dot_product_attention.default']
9ba20	4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73	J....pkg.torch.onnx.fx_node...%s
9ba40	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20	caled_dot_product_attention_5.:.
9ba60	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
9ba80	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rget=torch.ops.aten.scaled_dot_p
9baa0	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	roduct_attention.default](args.=
9bac0	20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20	.(%transpose_20,.%transpose_21,.
9bae0	25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77	%transpose_22,.%masked_fill),.kw
9bb00	61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61	args.=.{})J....pkg.torch.onnx.na
9bb20	6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65	me_scopes...['',.'bert',.'bert.e
9bb40	6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c	ncoder',.'bert.encoder.layer.5',
9bb60	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	.'bert.encoder.layer.5.attention
9bb80	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.5.attenti
9bba0	6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74	on.self',.'scaled_dot_product_at
9bbc0	74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73	tention_5']J....pkg.torch.onnx.s
9bbe0	74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	tack_trace...File."/home/hsiangn
9bc00	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
9bc20	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
9bc40	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
9bc60	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1676,.in.forwar
9bc80	64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c	d.....outputs.=.self.bert(...Fil
9bca0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
9bcc0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
9bce0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
9bd00	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
9bd20	20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75	.1000,.in.forward.....encoder_ou
9bd40	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.self.encoder(...File."/h
9bd60	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
9bd80	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
9bda0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
9bdc0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c	ert/modeling_bert.py",.line.650,
9bde0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	.in.forward.....layer_outputs.=.
9be00	6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	layer_module(...File."/home/hsia
9be20	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
9be40	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
9be60	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
9be80	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.558,.in.forw
9bea0	61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d	ard.....self_attention_outputs.=
9bec0	20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.self.attention(...File."/home/h
9bee0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
9bf00	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
9bf20	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
9bf40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.488,.in.f
9bf60	6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73	orward.....self_outputs.=.self.s
9bf80	65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	elf(...File."/home/hsiangnianian
9bfa0	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
9bfc0	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
9bfe0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
9c000	2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61	.py",.line.413,.in.forward.....a
9c020	74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c	ttn_output.=.torch.nn.functional
9c040	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b9	.scaled_dot_product_attention(..
9c060	14 0a 07 76 61 6c 5f 34 36 36 0a 06 76 61 6c 5f 39 38 0a 06 76 61 6c 5f 36 35 12 07 76 61 6c 5f	...val_466..val_98..val_65..val_
9c080	34 36 39 1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 34 34 37 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e	469..node_Slice_447".SliceJ....n
9c0a0	61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
9c0c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
9c0e0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
9c100	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
9c120	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
9c140	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
9c160	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61	ncoder/bert.encoder.layer.5:.tra
9c180	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
9c1a0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
9c1c0	2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.5.attention:.transformers.model
9c1e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
9c200	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.5.attentio
9c220	6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	n.self:.transformers.models.bert
9c240	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e	.modeling_bert.BertSdpaSelfAtten
9c260	74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	tion/scaled_dot_product_attentio
9c280	6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n_5:.aten.scaled_dot_product_att
9c2a0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	ention.defaultJ....pkg.torch.onn
9c2c0	78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65	x.class_hierarchy...['transforme
9c2e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
9c300	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73	tForTokenClassification',.'trans
9c320	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
9c340	74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertModel',.'transformers.mode
9c360	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65	ls.bert.modeling_bert.BertEncode
9c380	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
9c3a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	deling_bert.BertLayer',.'transfo
9c3c0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
9c3e0	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	BertAttention',.'transformers.mo
9c400	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
9c420	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	SelfAttention',.'aten.scaled_dot
9c440	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a	_product_attention.default']J...
9c460	16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65	.pkg.torch.onnx.fx_node...%scale
9c480	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d	d_dot_product_attention_5.:.[num
9c4a0	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
9c4c0	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	=torch.ops.aten.scaled_dot_produ
9c4e0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74	ct_attention.default](args.=.(%t
9c500	72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61	ranspose_20,.%transpose_21,.%tra
9c520	6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73	nspose_22,.%masked_fill),.kwargs
9c540	20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73	.=.{})J....pkg.torch.onnx.name_s
9c560	63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	copes...['',.'bert',.'bert.encod
9c580	65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65	er',.'bert.encoder.layer.5',.'be
9c5a0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27	rt.encoder.layer.5.attention',.'
9c5c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.5.attention.s
9c5e0	65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	elf',.'scaled_dot_product_attent
9c600	69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	ion_5']J....pkg.torch.onnx.stack
9c620	5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
9c640	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
9c660	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
9c680	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
9c6a0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
9c6c0	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
9c6e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
9c700	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
9c720	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
9c740	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30	bert/modeling_bert.py",.line.100
9c760	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74	0,.in.forward.....encoder_output
9c780	73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.self.encoder(...File."/home/
9c7a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
9c7c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
9c7e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
9c800	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20	modeling_bert.py",.line.650,.in.
9c820	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65	forward.....layer_outputs.=.laye
9c840	72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	r_module(...File."/home/hsiangni
9c860	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
9c880	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
9c8a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
9c8c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.558,.in.forward.
9c8e0	20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	....self_attention_outputs.=.sel
9c900	66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	f.attention(...File."/home/hsian
9c920	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
9c940	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
9c960	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
9c980	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.488,.in.forwa
9c9a0	72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28	rd.....self_outputs.=.self.self(
9c9c0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
9c9e0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
9ca00	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
9ca20	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
9ca40	2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f	,.line.413,.in.forward.....attn_
9ca60	6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61	output.=.torch.nn.functional.sca
9ca80	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba 14 0a 07 76	led_dot_product_attention(.....v
9caa0	61 6c 5f 34 36 36 0a 07 76 61 6c 5f 31 30 30 0a 06 76 61 6c 5f 39 38 12 07 76 61 6c 5f 34 37 31	al_466..val_100..val_98..val_471
9cac0	1a 0e 6e 6f 64 65 5f 53 6c 69 63 65 5f 34 34 39 22 05 53 6c 69 63 65 4a 91 04 0a 09 6e 61 6d 65	..node_Slice_449".SliceJ....name
9cae0	73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
9cb00	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
9cb20	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
9cb40	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
9cb60	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
9cb80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
9cba0	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.5:.transf
9cbc0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
9cbe0	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	.BertLayer/bert.encoder.layer.5.
9cc00	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
9cc20	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
9cc40	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.5.attention.s
9cc60	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
9cc80	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
9cca0	6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35	n/scaled_dot_product_attention_5
9ccc0	3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	:.aten.scaled_dot_product_attent
9cce0	69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	ion.defaultJ....pkg.torch.onnx.c
9cd00	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
9cd20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
9cd40	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
9cd60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
9cd80	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
9cda0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
9cdc0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
9cde0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
9ce00	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
9ce20	74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tAttention',.'transformers.model
9ce40	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
9ce60	66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	fAttention',.'aten.scaled_dot_pr
9ce80	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b	oduct_attention.default']J....pk
9cea0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64	g.torch.onnx.fx_node...%scaled_d
9cec0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73	ot_product_attention_5.:.[num_us
9cee0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
9cf00	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	rch.ops.aten.scaled_dot_product_
9cf20	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e	attention.default](args.=.(%tran
9cf40	73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70	spose_20,.%transpose_21,.%transp
9cf60	6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20	ose_22,.%masked_fill),.kwargs.=.
9cf80	7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
9cfa0	65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
9cfc0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.5',.'bert.
9cfe0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.5.attention',.'ber
9d000	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.5.attention.self
9d020	27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	',.'scaled_dot_product_attention
9d040	5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	_5']J....pkg.torch.onnx.stack_tr
9d060	61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
9d080	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
9d0a0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
9d0c0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
9d0e0	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
9d100	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
9d120	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
9d140	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
9d160	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
9d180	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
9d1a0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
9d1c0	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
9d1e0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
9d200	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
9d220	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
9d240	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
9d260	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
9d280	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
9d2a0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
9d2c0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
9d2e0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
9d300	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
9d320	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
9d340	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
9d360	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
9d380	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
9d3a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
9d3c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
9d3e0	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
9d400	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
9d420	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
9d440	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
9d460	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
9d480	69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74	ine.413,.in.forward.....attn_out
9d4a0	70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64	put.=.torch.nn.functional.scaled
9d4c0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c9 14 0a 06 76 61 6c 5f	_dot_product_attention(.....val_
9d4e0	36 35 0a 07 76 61 6c 5f 34 36 39 0a 07 76 61 6c 5f 34 36 38 12 07 76 61 6c 5f 34 37 33 1a 0f 6e	65..val_469..val_468..val_473..n
9d500	6f 64 65 5f 43 6f 6e 63 61 74 5f 34 35 31 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73 18 00	ode_Concat_451".Concat*...axis..
9d520	a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65	...J....namespace...:.transforme
9d540	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
9d560	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72	tForTokenClassification/bert:.tr
9d580	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
9d5a0	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61	bert.BertModel/bert.encoder:.tra
9d5c0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
9d5e0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ert.BertEncoder/bert.encoder.lay
9d600	65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er.5:.transformers.models.bert.m
9d620	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertLayer/bert.enco
9d640	64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	der.layer.5.attention:.transform
9d660	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
9d680	72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	rtAttention/bert.encoder.layer.5
9d6a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.attention.self:.transformers.mo
9d6c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
9d6e0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	SelfAttention/scaled_dot_product
9d700	5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	_attention_5:.aten.scaled_dot_pr
9d720	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e	oduct_attention.defaultJ....pkg.
9d740	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74	torch.onnx.class_hierarchy...['t
9d760	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
9d780	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
9d7a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
9d7c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertModel',.'transfor
9d7e0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
9d800	65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ertEncoder',.'transformers.model
9d820	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c	s.bert.modeling_bert.BertLayer',
9d840	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
9d860	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ing_bert.BertAttention',.'transf
9d880	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
9d8a0	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73	.BertSdpaSelfAttention',.'aten.s
9d8c0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
9d8e0	75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
9d900	12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	...%scaled_dot_product_attention
9d920	5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_5.:.[num_users=1].=.call_functi
9d940	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
9d960	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
9d980	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65	rgs.=.(%transpose_20,.%transpose
9d9a0	5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c	_21,.%transpose_22,.%masked_fill
9d9c0	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
9d9e0	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
9da00	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
9da20	72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	r.5',.'bert.encoder.layer.5.atte
9da40	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	ntion',.'bert.encoder.layer.5.at
9da60	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention.self',.'scaled_dot_produ
9da80	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	ct_attention_5']J....pkg.torch.o
9daa0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
9dac0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
9dae0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
9db00	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
9db20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
9db40	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
9db60	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
9db80	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
9dba0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
9dbc0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
9dbe0	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
9dc00	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
9dc20	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
9dc40	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
9dc60	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
9dc80	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
9dca0	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
9dcc0	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
9dce0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
9dd00	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
9dd20	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
9dd40	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
9dd60	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
9dd80	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
9dda0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
9ddc0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
9dde0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
9de00	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
9de20	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
9de40	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
9de60	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
9de80	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
9dea0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
9dec0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.413,.in.forward.
9dee0	20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74	....attn_output.=.torch.nn.funct
9df00	69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ional.scaled_dot_product_attenti
9df20	6f 6e 28 0a cd 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 31 0a 07 76 61 6c 5f 34 37 33 12 07 76	on(.....transpose_21..val_473..v
9df40	61 6c 5f 34 37 34 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 34 35 32 22 07 52 65 73 68 61 70	al_474..node_Reshape_452".Reshap
9df60	65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63	e*...allowzero.....J....namespac
9df80	65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	e...:.transformers.models.bert.m
9dfa0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
9dfc0	69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ication/bert:.transformers.model
9dfe0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62	s.bert.modeling_bert.BertModel/b
9e000	65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ert.encoder:.transformers.models
9e020	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f	.bert.modeling_bert.BertEncoder/
9e040	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65	bert.encoder.layer.5:.transforme
9e060	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
9e080	74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	tLayer/bert.encoder.layer.5.atte
9e0a0	6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ntion:.transformers.models.bert.
9e0c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74	modeling_bert.BertAttention/bert
9e0e0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a	.encoder.layer.5.attention.self:
9e100	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
9e120	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63	ng_bert.BertSdpaSelfAttention/sc
9e140	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74	aled_dot_product_attention_5:.at
9e160	65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e	en.scaled_dot_product_attention.
9e180	64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
9e1a0	5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
9e1c0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
9e1e0	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
9e200	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
9e220	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
9e240	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
9e260	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
9e280	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
9e2a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
9e2c0	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
9e2e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74	rt.modeling_bert.BertSdpaSelfAtt
9e300	65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	ention',.'aten.scaled_dot_produc
9e320	74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f	t_attention.default']J....pkg.to
9e340	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rch.onnx.fx_node...%scaled_dot_p
9e360	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d	roduct_attention_5.:.[num_users=
9e380	31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e	1].=.call_function[target=torch.
9e3a0	6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	ops.aten.scaled_dot_product_atte
9e3c0	6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73	ntion.default](args.=.(%transpos
9e3e0	65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f	e_20,.%transpose_21,.%transpose_
9e400	32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a	22,.%masked_fill),.kwargs.=.{})J
9e420	be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f	....pkg.torch.onnx.name_scopes..
9e440	01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62	.['',.'bert',.'bert.encoder',.'b
9e460	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert.encoder.layer.5',.'bert.enco
9e480	64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e	der.layer.5.attention',.'bert.en
9e4a0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27	coder.layer.5.attention.self',.'
9e4c0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d	scaled_dot_product_attention_5']
9e4e0	4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
9e500	f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
9e520	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
9e540	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
9e560	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
9e580	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
9e5a0	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
9e5c0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
9e5e0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
9e600	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
9e620	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
9e640	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
9e660	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
9e680	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
9e6a0	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
9e6c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
9e6e0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
9e700	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
9e720	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
9e740	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
9e760	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
9e780	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
9e7a0	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
9e7c0	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
9e7e0	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
9e800	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
9e820	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
9e840	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
9e860	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.488,.in.forward.....
9e880	73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65	self_outputs.=.self.self(...File
9e8a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
9e8c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
9e8e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
9e900	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
9e920	34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20	413,.in.forward.....attn_output.
9e940	3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74	=.torch.nn.functional.scaled_dot
9e960	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a c2 14 0a 07 76 61 6c 5f 34 37 34 12	_product_attention(.....val_474.
9e980	07 76 61 6c 5f 34 37 35 1a 12 6e 6f 64 65 5f 54 72 61 6e 73 70 6f 73 65 5f 34 35 33 22 09 54 72	.val_475..node_Transpose_453".Tr
9e9a0	61 6e 73 70 6f 73 65 2a 0f 0a 04 70 65 72 6d 40 00 40 02 40 01 a0 01 07 4a 91 04 0a 09 6e 61 6d	anspose*...perm@.@.@....J....nam
9e9c0	65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	espace...:.transformers.models.b
9e9e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
9ea00	61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	assification/bert:.transformers.
9ea20	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f	models.bert.modeling_bert.BertMo
9ea40	64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	del/bert.encoder:.transformers.m
9ea60	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63	odels.bert.modeling_bert.BertEnc
9ea80	6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73	oder/bert.encoder.layer.5:.trans
9eaa0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
9eac0	74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	t.BertLayer/bert.encoder.layer.5
9eae0	2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	.attention:.transformers.models.
9eb00	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e	bert.modeling_bert.BertAttention
9eb20	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	/bert.encoder.layer.5.attention.
9eb40	73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	self:.transformers.models.bert.m
9eb60	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69	odeling_bert.BertSdpaSelfAttenti
9eb80	6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f	on/scaled_dot_product_attention_
9eba0	35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	5:.aten.scaled_dot_product_atten
9ebc0	74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	tion.defaultJ....pkg.torch.onnx.
9ebe0	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
9ec00	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
9ec20	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
9ec40	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
9ec60	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
9ec80	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
9eca0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
9ecc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
9ece0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
9ed00	72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	rtAttention',.'transformers.mode
9ed20	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65	ls.bert.modeling_bert.BertSdpaSe
9ed40	6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70	lfAttention',.'aten.scaled_dot_p
9ed60	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70	roduct_attention.default']J....p
9ed80	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f	kg.torch.onnx.fx_node...%scaled_
9eda0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75	dot_product_attention_5.:.[num_u
9edc0	73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74	sers=1].=.call_function[target=t
9ede0	6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	orch.ops.aten.scaled_dot_product
9ee00	5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61	_attention.default](args.=.(%tra
9ee20	6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73	nspose_20,.%transpose_21,.%trans
9ee40	70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d	pose_22,.%masked_fill),.kwargs.=
9ee60	20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f	.{})J....pkg.torch.onnx.name_sco
9ee80	70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	pes...['',.'bert',.'bert.encoder
9eea0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74	',.'bert.encoder.layer.5',.'bert
9eec0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65	.encoder.layer.5.attention',.'be
9eee0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.5.attention.sel
9ef00	66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	f',.'scaled_dot_product_attentio
9ef20	6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74	n_5']J....pkg.torch.onnx.stack_t
9ef40	72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	race...File."/home/hsiangnianian
9ef60	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
9ef80	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
9efa0	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
9efc0	2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	.py",.line.1676,.in.forward.....
9efe0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.bert(...File."/ho
9f000	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
9f020	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
9f040	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
9f060	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c	rt/modeling_bert.py",.line.1000,
9f080	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20	.in.forward.....encoder_outputs.
9f0a0	3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.self.encoder(...File."/home/hs
9f0c0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
9f0e0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
9f100	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
9f120	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f	deling_bert.py",.line.650,.in.fo
9f140	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f	rward.....layer_outputs.=.layer_
9f160	6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	module(...File."/home/hsiangnian
9f180	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
9f1a0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
9f1c0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
9f1e0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.558,.in.forward...
9f200	20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	..self_attention_outputs.=.self.
9f220	61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	attention(...File."/home/hsiangn
9f240	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
9f260	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
9f280	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
9f2a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.488,.in.forward
9f2c0	0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20	.....self_outputs.=.self.self(..
9f2e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
9f300	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
9f320	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
9f340	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
9f360	6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75	line.413,.in.forward.....attn_ou
9f380	74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65	tput.=.torch.nn.functional.scale
9f3a0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ca 14 0a 07 76 61 6c	d_dot_product_attention(.....val
9f3c0	5f 34 37 31 0a 07 76 61 6c 5f 34 36 38 0a 07 76 61 6c 5f 34 36 39 12 07 76 61 6c 5f 34 37 36 1a	_471..val_468..val_469..val_476.
9f3e0	0f 6e 6f 64 65 5f 43 6f 6e 63 61 74 5f 34 35 34 22 06 43 6f 6e 63 61 74 2a 0b 0a 04 61 78 69 73	.node_Concat_454".Concat*...axis
9f400	18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72	.....J....namespace...:.transfor
9f420	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
9f440	65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20	ertForTokenClassification/bert:.
9f460	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
9f480	67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74	g_bert.BertModel/bert.encoder:.t
9f4a0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
9f4c0	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	_bert.BertEncoder/bert.encoder.l
9f4e0	61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer.5:.transformers.models.bert
9f500	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e	.modeling_bert.BertLayer/bert.en
9f520	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f	coder.layer.5.attention:.transfo
9f540	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
9f560	42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	BertAttention/bert.encoder.layer
9f580	2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	.5.attention.self:.transformers.
9f5a0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64	models.bert.modeling_bert.BertSd
9f5c0	70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	paSelfAttention/scaled_dot_produ
9f5e0	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f	ct_attention_5:.aten.scaled_dot_
9f600	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b	product_attention.defaultJ....pk
9f620	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b	g.torch.onnx.class_hierarchy...[
9f640	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
9f660	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
9f680	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
9f6a0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
9f6c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
9f6e0	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
9f700	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
9f720	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
9f740	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e	eling_bert.BertAttention',.'tran
9f760	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
9f780	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e	rt.BertSdpaSelfAttention',.'aten
9f7a0	2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65	.scaled_dot_product_attention.de
9f7c0	66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
9f7e0	64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	de...%scaled_dot_product_attenti
9f800	6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63	on_5.:.[num_users=1].=.call_func
9f820	74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65	tion[target=torch.ops.aten.scale
9f840	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d	d_dot_product_attention.default]
9f860	28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f	(args.=.(%transpose_20,.%transpo
9f880	73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69	se_21,.%transpose_22,.%masked_fi
9f8a0	6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	ll),.kwargs.=.{})J....pkg.torch.
9f8c0	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
9f8e0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
9f900	79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	yer.5',.'bert.encoder.layer.5.at
9f920	74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	tention',.'bert.encoder.layer.5.
9f940	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f	attention.self',.'scaled_dot_pro
9f960	64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68	duct_attention_5']J....pkg.torch
9f980	2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	.onnx.stack_trace...File."/home/
9f9a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
9f9c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
9f9e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
9fa00	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e	modeling_bert.py",.line.1676,.in
9fa20	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74	.forward.....outputs.=.self.bert
9fa40	28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69	(...File."/home/hsiangnianian/gi
9fa60	74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79	tproject/base-model/.venv/lib/py
9fa80	74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d	thon3.10/site-packages/transform
9faa0	65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79	ers/models/bert/modeling_bert.py
9fac0	22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63	",.line.1000,.in.forward.....enc
9fae0	6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46	oder_outputs.=.self.encoder(...F
9fb00	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
9fb20	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
9fb40	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
9fb60	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
9fb80	6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74	ne.650,.in.forward.....layer_out
9fba0	70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	puts.=.layer_module(...File."/ho
9fbc0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
9fbe0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
9fc00	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
9fc20	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20	rt/modeling_bert.py",.line.558,.
9fc40	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	in.forward.....self_attention_ou
9fc60	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22	tputs.=.self.attention(...File."
9fc80	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
9fca0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
9fcc0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
9fce0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38	/bert/modeling_bert.py",.line.48
9fd00	38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d	8,.in.forward.....self_outputs.=
9fd20	20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	.self.self(...File."/home/hsiang
9fd40	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
9fd60	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
9fd80	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
9fda0	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.413,.in.forwar
9fdc0	64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e	d.....attn_output.=.torch.nn.fun
9fde0	63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e	ctional.scaled_dot_product_atten
9fe00	74 69 6f 6e 28 0a c8 14 0a 07 76 61 6c 5f 34 37 35 0a 07 76 61 6c 5f 34 37 36 12 07 76 61 6c 5f	tion(.....val_475..val_476..val_
9fe20	34 37 37 1a 10 6e 6f 64 65 5f 52 65 73 68 61 70 65 5f 34 35 35 22 07 52 65 73 68 61 70 65 2a 10	477..node_Reshape_455".Reshape*.
9fe40	0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 00 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83	..allowzero.....J....namespace..
9fe60	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
9fe80	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
9fea0	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
9fec0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
9fee0	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
9ff00	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
9ff20	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.5:.transformers.
9ff40	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
9ff60	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.5.attenti
9ff80	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
9ffa0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
9ffc0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.5.attention.self:.tr
9ffe0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a0000	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65	bert.BertSdpaSelfAttention/scale
a0020	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e	d_dot_product_attention_5:.aten.
a0040	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
a0060	61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
a0080	65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
a00a0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
a00c0	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
a00e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
a0100	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
a0120	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
a0140	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
a0160	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
a0180	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
a01a0	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
a01c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
a01e0	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion',.'aten.scaled_dot_product_a
a0200	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ttention.default']J....pkg.torch
a0220	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	.onnx.fx_node...%scaled_dot_prod
a0240	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	uct_attention_5.:.[num_users=1].
a0260	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
a0280	2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	.aten.scaled_dot_product_attenti
a02a0	6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32	on.default](args.=.(%transpose_2
a02c0	30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c	0,.%transpose_21,.%transpose_22,
a02e0	20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a	.%masked_fill),.kwargs.=.{})J...
a0300	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27	.pkg.torch.onnx.name_scopes...['
a0320	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
a0340	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.5',.'bert.encoder
a0360	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.5.attention',.'bert.encod
a0380	65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61	er.layer.5.attention.self',.'sca
a03a0	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09	led_dot_product_attention_5']J..
a03c0	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46	..pkg.torch.onnx.stack_trace...F
a03e0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
a0400	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
a0420	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
a0440	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
a0460	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
a0480	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
a04a0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
a04c0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
a04e0	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
a0500	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
a0520	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
a0540	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
a0560	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
a0580	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
a05a0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
a05c0	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
a05e0	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
a0600	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
a0620	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
a0640	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
a0660	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
a0680	20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61	.line.558,.in.forward.....self_a
a06a0	74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f	ttention_outputs.=.self.attentio
a06c0	6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	n(...File."/home/hsiangnianian/g
a06e0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a0700	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a0720	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a0740	79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.488,.in.forward.....sel
a0760	66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f	f_outputs.=.self.self(...File."/
a0780	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a07a0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a07c0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
a07e0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33	bert/modeling_bert.py",.line.413
a0800	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74	,.in.forward.....attn_output.=.t
a0820	6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	orch.nn.functional.scaled_dot_pr
a0840	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b3 14 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32	oduct_attention(.....transpose_2
a0860	30 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c 5f 34 37 39 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 34 35	0..val_108..val_479..node_Mul_45
a0880	37 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f	7".MulJ....namespace...:.transfo
a08a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a08c0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
a08e0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
a0900	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
a0920	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a0940	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
a0960	6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.5:.transformers.models.ber
a0980	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
a09a0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.5.attention:.transf
a09c0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a09e0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
a0a00	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	r.5.attention.self:.transformers
a0a20	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53	.models.bert.modeling_bert.BertS
a0a40	64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	dpaSelfAttention/scaled_dot_prod
a0a60	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74	uct_attention_5:.aten.scaled_dot
a0a80	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70	_product_attention.defaultJ....p
a0aa0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03	kg.torch.onnx.class_hierarchy...
a0ac0	5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	['transformers.models.bert.model
a0ae0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74	ing_bert.BertForTokenClassificat
a0b00	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
a0b20	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73	modeling_bert.BertModel',.'trans
a0b40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
a0b60	74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	t.BertEncoder',.'transformers.mo
a0b80	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
a0ba0	72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	r',.'transformers.models.bert.mo
a0bc0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61	deling_bert.BertAttention',.'tra
a0be0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a0c00	65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65	ert.BertSdpaSelfAttention',.'ate
a0c20	6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64	n.scaled_dot_product_attention.d
a0c40	65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e	efault']J....pkg.torch.onnx.fx_n
a0c60	6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	ode...%scaled_dot_product_attent
a0c80	69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ion_5.:.[num_users=1].=.call_fun
a0ca0	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c	ction[target=torch.ops.aten.scal
a0cc0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74	ed_dot_product_attention.default
a0ce0	5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70	](args.=.(%transpose_20,.%transp
a0d00	6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66	ose_21,.%transpose_22,.%masked_f
a0d20	69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	ill),.kwargs.=.{})J....pkg.torch
a0d40	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
a0d60	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
a0d80	61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	ayer.5',.'bert.encoder.layer.5.a
a0da0	74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	ttention',.'bert.encoder.layer.5
a0dc0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	.attention.self',.'scaled_dot_pr
a0de0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63	oduct_attention_5']J....pkg.torc
a0e00	68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65	h.onnx.stack_trace...File."/home
a0e20	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
a0e40	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
a0e60	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
a0e80	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69	/modeling_bert.py",.line.1676,.i
a0ea0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72	n.forward.....outputs.=.self.ber
a0ec0	74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	t(...File."/home/hsiangnianian/g
a0ee0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a0f00	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a0f20	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a0f40	79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e	y",.line.1000,.in.forward.....en
a0f60	63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20	coder_outputs.=.self.encoder(...
a0f80	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a0fa0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a0fc0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a0fe0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a1000	69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75	ine.650,.in.forward.....layer_ou
a1020	74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68	tputs.=.layer_module(...File."/h
a1040	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
a1060	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
a1080	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
a10a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c	ert/modeling_bert.py",.line.558,
a10c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f	.in.forward.....self_attention_o
a10e0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20	utputs.=.self.attention(...File.
a1100	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
a1120	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
a1140	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
a1160	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34	s/bert/modeling_bert.py",.line.4
a1180	38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20	88,.in.forward.....self_outputs.
a11a0	3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.self(...File."/home/hsian
a11c0	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
a11e0	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
a1200	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
a1220	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61	ing_bert.py",.line.413,.in.forwa
a1240	72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75	rd.....attn_output.=.torch.nn.fu
a1260	6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65	nctional.scaled_dot_product_atte
a1280	6e 74 69 6f 6e 28 0a ae 14 0a 07 76 61 6c 5f 34 37 37 0a 07 76 61 6c 5f 31 30 38 12 07 76 61 6c	ntion(.....val_477..val_108..val
a12a0	5f 34 38 31 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 34 35 39 22 03 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65	_481..node_Mul_459".MulJ....name
a12c0	73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
a12e0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
a1300	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
a1320	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
a1340	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
a1360	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
a1380	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.5:.transf
a13a0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a13c0	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	.BertLayer/bert.encoder.layer.5.
a13e0	61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	attention:.transformers.models.b
a1400	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f	ert.modeling_bert.BertAttention/
a1420	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.5.attention.s
a1440	65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	elf:.transformers.models.bert.mo
a1460	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
a1480	6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35	n/scaled_dot_product_attention_5
a14a0	3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74	:.aten.scaled_dot_product_attent
a14c0	69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63	ion.defaultJ....pkg.torch.onnx.c
a14e0	6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	lass_hierarchy...['transformers.
a1500	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f	models.bert.modeling_bert.BertFo
a1520	72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72	rTokenClassification',.'transfor
a1540	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
a1560	65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertModel',.'transformers.models.
a1580	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c	bert.modeling_bert.BertEncoder',
a15a0	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
a15c0	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65	ing_bert.BertLayer',.'transforme
a15e0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
a1600	74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	tAttention',.'transformers.model
a1620	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c	s.bert.modeling_bert.BertSdpaSel
a1640	66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	fAttention',.'aten.scaled_dot_pr
a1660	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b	oduct_attention.default']J....pk
a1680	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64	g.torch.onnx.fx_node...%scaled_d
a16a0	6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73	ot_product_attention_5.:.[num_us
a16c0	65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f	ers=1].=.call_function[target=to
a16e0	72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	rch.ops.aten.scaled_dot_product_
a1700	61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e	attention.default](args.=.(%tran
a1720	73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70	spose_20,.%transpose_21,.%transp
a1740	6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20	ose_22,.%masked_fill),.kwargs.=.
a1760	7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
a1780	65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
a17a0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.5',.'bert.
a17c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.5.attention',.'ber
a17e0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66	t.encoder.layer.5.attention.self
a1800	27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	',.'scaled_dot_product_attention
a1820	5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72	_5']J....pkg.torch.onnx.stack_tr
a1840	61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	ace...File."/home/hsiangnianian/
a1860	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
a1880	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
a18a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
a18c0	70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f	py",.line.1676,.in.forward.....o
a18e0	75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	utputs.=.self.bert(...File."/hom
a1900	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
a1920	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
a1940	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
a1960	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20	t/modeling_bert.py",.line.1000,.
a1980	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d	in.forward.....encoder_outputs.=
a19a0	20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	.self.encoder(...File."/home/hsi
a19c0	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
a19e0	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
a1a00	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
a1a20	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72	eling_bert.py",.line.650,.in.for
a1a40	77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d	ward.....layer_outputs.=.layer_m
a1a60	6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	odule(...File."/home/hsiangniani
a1a80	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
a1aa0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
a1ac0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
a1ae0	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.558,.in.forward....
a1b00	20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61	.self_attention_outputs.=.self.a
a1b20	74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	ttention(...File."/home/hsiangni
a1b40	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
a1b60	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
a1b80	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
a1ba0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.488,.in.forward.
a1bc0	20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20	....self_outputs.=.self.self(...
a1be0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a1c00	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a1c20	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a1c40	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a1c60	69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74	ine.413,.in.forward.....attn_out
a1c80	70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64	put.=.torch.nn.functional.scaled
a1ca0	5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b4 14 0a 07 76 61 6c 5f	_dot_product_attention(.....val_
a1cc0	34 37 39 0a 07 76 61 6c 5f 34 38 31 12 07 76 61 6c 5f 34 38 32 1a 0f 6e 6f 64 65 5f 4d 61 74 4d	479..val_481..val_482..node_MatM
a1ce0	75 6c 5f 34 36 30 22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a	ul_460".MatMulJ....namespace...:
a1d00	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
a1d20	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
a1d40	6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	on/bert:.transformers.models.ber
a1d60	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65	t.modeling_bert.BertModel/bert.e
a1d80	6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ncoder:.transformers.models.bert
a1da0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e	.modeling_bert.BertEncoder/bert.
a1dc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	encoder.layer.5:.transformers.mo
a1de0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65	dels.bert.modeling_bert.BertLaye
a1e00	72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	r/bert.encoder.layer.5.attention
a1e20	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	:.transformers.models.bert.model
a1e40	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f	ing_bert.BertAttention/bert.enco
a1e60	64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e	der.layer.5.attention.self:.tran
a1e80	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
a1ea0	72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f	rt.BertSdpaSelfAttention/scaled_
a1ec0	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63	dot_product_attention_5:.aten.sc
a1ee0	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75	aled_dot_product_attention.defau
a1f00	6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
a1f20	61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
a1f40	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
a1f60	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
a1f80	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
a1fa0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
a1fc0	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
a1fe0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a2000	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
a2020	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
a2040	6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	n',.'transformers.models.bert.mo
a2060	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f	deling_bert.BertSdpaSelfAttentio
a2080	6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n',.'aten.scaled_dot_product_att
a20a0	65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f	ention.default']J....pkg.torch.o
a20c0	6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63	nnx.fx_node...%scaled_dot_produc
a20e0	74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20	t_attention_5.:.[num_users=1].=.
a2100	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
a2120	74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	ten.scaled_dot_product_attention
a2140	2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c	.default](args.=.(%transpose_20,
a2160	20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25	.%transpose_21,.%transpose_22,.%
a2180	6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70	masked_fill),.kwargs.=.{})J....p
a21a0	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
a21c0	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
a21e0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.5',.'bert.encoder.l
a2200	61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayer.5.attention',.'bert.encoder
a2220	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65	.layer.5.attention.self',.'scale
a2240	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a	d_dot_product_attention_5']J....
a2260	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c	pkg.torch.onnx.stack_trace...Fil
a2280	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a22a0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a22c0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a22e0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a2300	20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20	.1676,.in.forward.....outputs.=.
a2320	73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	self.bert(...File."/home/hsiangn
a2340	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
a2360	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
a2380	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
a23a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72	g_bert.py",.line.1000,.in.forwar
a23c0	64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63	d.....encoder_outputs.=.self.enc
a23e0	6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	oder(...File."/home/hsiangniania
a2400	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
a2420	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
a2440	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
a2460	74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.650,.in.forward.....
a2480	6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20	layer_outputs.=.layer_module(...
a24a0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a24c0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a24e0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a2500	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a2520	69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74	ine.558,.in.forward.....self_att
a2540	65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28	ention_outputs.=.self.attention(
a2560	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
a2580	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
a25a0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
a25c0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
a25e0	2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.488,.in.forward.....self_
a2600	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	outputs.=.self.self(...File."/ho
a2620	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
a2640	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
a2660	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
a2680	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20	rt/modeling_bert.py",.line.413,.
a26a0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72	in.forward.....attn_output.=.tor
a26c0	63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	ch.nn.functional.scaled_dot_prod
a26e0	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a b2 14 0a 07 76 61 6c 5f 34 38 32 0a 0b 6d 61 73 6b	uct_attention(.....val_482..mask
a2700	65 64 5f 66 69 6c 6c 12 07 76 61 6c 5f 34 38 33 1a 0c 6e 6f 64 65 5f 41 64 64 5f 34 36 31 22 03	ed_fill..val_483..node_Add_461".
a2720	41 64 64 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65	AddJ....namespace...:.transforme
a2740	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
a2760	74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72	tForTokenClassification/bert:.tr
a2780	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a27a0	62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61	bert.BertModel/bert.encoder:.tra
a27c0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a27e0	65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ert.BertEncoder/bert.encoder.lay
a2800	65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er.5:.transformers.models.bert.m
a2820	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f	odeling_bert.BertLayer/bert.enco
a2840	64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d	der.layer.5.attention:.transform
a2860	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a2880	72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	rtAttention/bert.encoder.layer.5
a28a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.attention.self:.transformers.mo
a28c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61	dels.bert.modeling_bert.BertSdpa
a28e0	53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	SelfAttention/scaled_dot_product
a2900	5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	_attention_5:.aten.scaled_dot_pr
a2920	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e	oduct_attention.defaultJ....pkg.
a2940	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 88 03 5b 27 74	torch.onnx.class_hierarchy...['t
a2960	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
a2980	5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e	_bert.BertForTokenClassification
a29a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
a29c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertModel',.'transfor
a29e0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
a2a00	65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	ertEncoder',.'transformers.model
a2a20	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c	s.bert.modeling_bert.BertLayer',
a2a40	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
a2a60	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ing_bert.BertAttention',.'transf
a2a80	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a2aa0	2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73	.BertSdpaSelfAttention',.'aten.s
a2ac0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
a2ae0	75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
a2b00	12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e	...%scaled_dot_product_attention
a2b20	5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	_5.:.[num_users=1].=.call_functi
a2b40	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f	on[target=torch.ops.aten.scaled_
a2b60	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61	dot_product_attention.default](a
a2b80	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61 6e 73 70 6f 73 65	rgs.=.(%transpose_20,.%transpose
a2ba0	5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c	_21,.%transpose_22,.%masked_fill
a2bc0	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
a2be0	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
a2c00	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
a2c20	72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	r.5',.'bert.encoder.layer.5.atte
a2c40	6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	ntion',.'bert.encoder.layer.5.at
a2c60	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75	tention.self',.'scaled_dot_produ
a2c80	63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	ct_attention_5']J....pkg.torch.o
a2ca0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
a2cc0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
a2ce0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
a2d00	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
a2d20	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
a2d40	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
a2d60	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
a2d80	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
a2da0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
a2dc0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
a2de0	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
a2e00	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
a2e20	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a2e40	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a2e60	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a2e80	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a2ea0	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
a2ec0	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
a2ee0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
a2f00	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
a2f20	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
a2f40	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
a2f60	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
a2f80	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
a2fa0	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
a2fc0	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
a2fe0	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
a3000	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
a3020	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
a3040	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
a3060	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
a3080	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
a30a0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
a30c0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.413,.in.forward.
a30e0	20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74	....attn_output.=.torch.nn.funct
a3100	69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	ional.scaled_dot_product_attenti
a3120	6f 6e 28 0a c3 14 0a 07 76 61 6c 5f 34 38 33 12 07 76 61 6c 5f 34 38 34 1a 10 6e 6f 64 65 5f 53	on(.....val_483..val_484..node_S
a3140	6f 66 74 6d 61 78 5f 34 36 32 22 07 53 6f 66 74 6d 61 78 2a 14 0a 04 61 78 69 73 18 ff ff ff ff	oftmax_462".Softmax*...axis.....
a3160	ff ff ff ff ff 01 a0 01 02 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83 04 3a 20 74 72 61 6e	.........J....namespace...:.tran
a3180	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
a31a0	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
a31c0	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
a31e0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
a3200	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
a3220	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
a3240	65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.5:.transformers.models.
a3260	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
a3280	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.5.attention:.tra
a32a0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a32c0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
a32e0	61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d	ayer.5.attention.self:.transform
a3300	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a3320	72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65 64 5f 64 6f 74 5f 70	rtSdpaSelfAttention/scaled_dot_p
a3340	72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e 73 63 61 6c 65 64 5f	roduct_attention_5:.aten.scaled_
a3360	64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 4a ab 03	dot_product_attention.defaultJ..
a3380	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
a33a0	12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
a33c0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
a33e0	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
a3400	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
a3420	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a3440	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
a3460	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
a3480	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
a34a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
a34c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a34e0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
a3500	61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	aten.scaled_dot_product_attentio
a3520	6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66	n.default']J....pkg.torch.onnx.f
a3540	78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	x_node...%scaled_dot_product_att
a3560	65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	ention_5.:.[num_users=1].=.call_
a3580	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 73	function[target=torch.ops.aten.s
a35a0	63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66 61	caled_dot_product_attention.defa
a35c0	75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 30 2c 20 25 74 72 61	ult](args.=.(%transpose_20,.%tra
a35e0	6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c 20 25 6d 61 73 6b 65	nspose_21,.%transpose_22,.%maske
a3600	64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a 1a 70 6b 67 2e 74 6f	d_fill),.kwargs.=.{})J....pkg.to
a3620	72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27 27 2c 20 27 62 65 72	rch.onnx.name_scopes...['',.'ber
a3640	74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65	t',.'bert.encoder',.'bert.encode
a3660	72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	r.layer.5',.'bert.encoder.layer.
a3680	35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	5.attention',.'bert.encoder.laye
a36a0	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61 6c 65 64 5f 64 6f 74	r.5.attention.self',.'scaled_dot
a36c0	5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09 0a 1a 70 6b 67 2e 74	_product_attention_5']J....pkg.t
a36e0	6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46 69 6c 65 20 22 2f 68	orch.onnx.stack_trace...File."/h
a3700	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
a3720	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
a3740	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
a3760	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36	ert/modeling_bert.py",.line.1676
a3780	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	,.in.forward.....outputs.=.self.
a37a0	62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	bert(...File."/home/hsiangniania
a37c0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
a37e0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
a3800	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
a3820	74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	t.py",.line.1000,.in.forward....
a3840	20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28	.encoder_outputs.=.self.encoder(
a3860	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
a3880	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
a38a0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
a38c0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
a38e0	2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72	,.line.650,.in.forward.....layer
a3900	5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20	_outputs.=.layer_module(...File.
a3920	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
a3940	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
a3960	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
a3980	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35	s/bert/modeling_bert.py",.line.5
a39a0	35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f	58,.in.forward.....self_attentio
a39c0	6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69	n_outputs.=.self.attention(...Fi
a39e0	6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65	le."/home/hsiangnianian/gitproje
a3a00	63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e	ct/base-model/.venv/lib/python3.
a3a20	31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f	10/site-packages/transformers/mo
a3a40	64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e	dels/bert/modeling_bert.py",.lin
a3a60	65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75	e.488,.in.forward.....self_outpu
a3a80	74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.self(...File."/home/hs
a3aa0	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
a3ac0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
a3ae0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
a3b00	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33 2c 20 69 6e 20 66 6f	deling_bert.py",.line.413,.in.fo
a3b20	72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74 6f 72 63 68 2e 6e 6e	rward.....attn_output.=.torch.nn
a3b40	2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	.functional.scaled_dot_product_a
a3b60	74 74 65 6e 74 69 6f 6e 28 0a e4 14 0a 07 76 61 6c 5f 34 38 34 0a 0c 74 72 61 6e 73 70 6f 73 65	ttention(.....val_484..transpose
a3b80	5f 32 32 12 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f	_22..scaled_dot_product_attentio
a3ba0	6e 5f 35 1a 23 6e 6f 64 65 5f 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74	n_5.#node_scaled_dot_product_att
a3bc0	65 6e 74 69 6f 6e 5f 35 22 06 4d 61 74 4d 75 6c 4a 91 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 83	ention_5".MatMulJ....namespace..
a3be0	04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	.:.transformers.models.bert.mode
a3c00	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61	ling_bert.BertForTokenClassifica
a3c20	74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	tion/bert:.transformers.models.b
a3c40	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74	ert.modeling_bert.BertModel/bert
a3c60	2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	.encoder:.transformers.models.be
a3c80	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72	rt.modeling_bert.BertEncoder/ber
a3ca0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	t.encoder.layer.5:.transformers.
a3cc0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61	models.bert.modeling_bert.BertLa
a3ce0	79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	yer/bert.encoder.layer.5.attenti
a3d00	6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	on:.transformers.models.bert.mod
a3d20	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e	eling_bert.BertAttention/bert.en
a3d40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20 74 72	coder.layer.5.attention.self:.tr
a3d60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a3d80	62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 73 63 61 6c 65	bert.BertSdpaSelfAttention/scale
a3da0	64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 3a 20 61 74 65 6e 2e	d_dot_product_attention_5:.aten.
a3dc0	73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 2e 64 65 66	scaled_dot_product_attention.def
a3de0	61 75 6c 74 4a ab 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69	aultJ....pkg.torch.onnx.class_hi
a3e00	65 72 61 72 63 68 79 12 88 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	erarchy...['transformers.models.
a3e20	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
a3e40	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	lassification',.'transformers.mo
a3e60	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
a3e80	6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	l',.'transformers.models.bert.mo
a3ea0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73	deling_bert.BertEncoder',.'trans
a3ec0	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
a3ee0	74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	t.BertLayer',.'transformers.mode
a3f00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74	ls.bert.modeling_bert.BertAttent
a3f20	69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	ion',.'transformers.models.bert.
a3f40	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
a3f60	69 6f 6e 27 2c 20 27 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	ion',.'aten.scaled_dot_product_a
a3f80	74 74 65 6e 74 69 6f 6e 2e 64 65 66 61 75 6c 74 27 5d 4a e7 01 0a 16 70 6b 67 2e 74 6f 72 63 68	ttention.default']J....pkg.torch
a3fa0	2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 cc 01 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64	.onnx.fx_node...%scaled_dot_prod
a3fc0	75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	uct_attention_5.:.[num_users=1].
a3fe0	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
a4000	2e 61 74 65 6e 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69	.aten.scaled_dot_product_attenti
a4020	6f 6e 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32	on.default](args.=.(%transpose_2
a4040	30 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 31 2c 20 25 74 72 61 6e 73 70 6f 73 65 5f 32 32 2c	0,.%transpose_21,.%transpose_22,
a4060	20 25 6d 61 73 6b 65 64 5f 66 69 6c 6c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a be 01 0a	.%masked_fill),.kwargs.=.{})J...
a4080	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9f 01 5b 27	.pkg.torch.onnx.name_scopes...['
a40a0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
a40c0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.5',.'bert.encoder
a40e0	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64	.layer.5.attention',.'bert.encod
a4100	65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 73 63 61	er.layer.5.attention.self',.'sca
a4120	6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 27 5d 4a 90 09	led_dot_product_attention_5']J..
a4140	0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f1 08 46	..pkg.torch.onnx.stack_trace...F
a4160	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
a4180	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
a41a0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
a41c0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
a41e0	6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20	ne.1676,.in.forward.....outputs.
a4200	3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	=.self.bert(...File."/home/hsian
a4220	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
a4240	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
a4260	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
a4280	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1000,.in.forw
a42a0	61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65	ard.....encoder_outputs.=.self.e
a42c0	6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	ncoder(...File."/home/hsiangnian
a42e0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
a4300	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
a4320	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
a4340	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.650,.in.forward...
a4360	20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a	..layer_outputs.=.layer_module(.
a4380	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
a43a0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
a43c0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
a43e0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
a4400	20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61	.line.558,.in.forward.....self_a
a4420	74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f	ttention_outputs.=.self.attentio
a4440	6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	n(...File."/home/hsiangnianian/g
a4460	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a4480	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a44a0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a44c0	79 22 2c 20 6c 69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.488,.in.forward.....sel
a44e0	66 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f	f_outputs.=.self.self(...File."/
a4500	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a4520	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a4540	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
a4560	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 31 33	bert/modeling_bert.py",.line.413
a4580	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 74	,.in.forward.....attn_output.=.t
a45a0	6f 72 63 68 2e 6e 6e 2e 66 75 6e 63 74 69 6f 6e 61 6c 2e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	orch.nn.functional.scaled_dot_pr
a45c0	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 28 0a ba 13 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f	oduct_attention(.....scaled_dot_
a45e0	70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 35 12 0c 74 72 61 6e 73 70 6f 73 65 5f 32	product_attention_5..transpose_2
a4600	33 1a 11 6e 6f 64 65 5f 74 72 61 6e 73 70 6f 73 65 5f 32 33 22 09 54 72 61 6e 73 70 6f 73 65 2a	3..node_transpose_23".Transpose*
a4620	11 0a 04 70 65 72 6d 40 00 40 02 40 01 40 03 a0 01 07 4a e8 03 0a 09 6e 61 6d 65 73 70 61 63 65	...perm@.@.@.@....J....namespace
a4640	12 da 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
a4660	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
a4680	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
a46a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
a46c0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
a46e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
a4700	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.5:.transformer
a4720	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a4740	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	Layer/bert.encoder.layer.5.atten
a4760	74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	tion:.transformers.models.bert.m
a4780	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e	odeling_bert.BertAttention/bert.
a47a0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 3a 20	encoder.layer.5.attention.self:.
a47c0	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a47e0	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 2f 74 72 61	g_bert.BertSdpaSelfAttention/tra
a4800	6e 73 70 6f 73 65 5f 32 33 3a 20 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 4a 94 03	nspose_23:.aten.transpose.intJ..
a4820	0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79	..pkg.torch.onnx.class_hierarchy
a4840	12 f1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...['transformers.models.bert.mo
a4860	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
a4880	63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	cation',.'transformers.models.be
a48a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72	rt.modeling_bert.BertModel',.'tr
a48c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a48e0	62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	bert.BertEncoder',.'transformers
a4900	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c	.models.bert.modeling_bert.BertL
a4920	61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	ayer',.'transformers.models.bert
a4940	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	.modeling_bert.BertAttention',.'
a4960	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a4980	67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27	g_bert.BertSdpaSelfAttention',.'
a49a0	61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e 69 6e 74 27 5d 4a aa 01 0a 16 70 6b 67 2e 74 6f 72	aten.transpose.int']J....pkg.tor
a49c0	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 8f 01 25 74 72 61 6e 73 70 6f 73 65 5f 32 33 20	ch.onnx.fx_node...%transpose_23.
a49e0	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
a4a00	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 74 72 61 6e 73 70 6f 73 65 2e	target=torch.ops.aten.transpose.
a4a20	69 6e 74 5d 28 61 72 67 73 20 3d 20 28 25 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74	int](args.=.(%scaled_dot_product
a4a40	5f 61 74 74 65 6e 74 69 6f 6e 5f 35 2c 20 31 2c 20 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	_attention_5,.1,.2),.kwargs.=.{}
a4a60	29 4a ac 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
a4a80	12 8d 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
a4aa0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.5',.'bert.en
a4ac0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e	coder.layer.5.attention',.'bert.
a4ae0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c	encoder.layer.5.attention.self',
a4b00	20 27 74 72 61 6e 73 70 6f 73 65 5f 32 33 27 5d 4a fa 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	.'transpose_23']J....pkg.torch.o
a4b20	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 db 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
a4b40	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
a4b60	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
a4b80	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
a4ba0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
a4bc0	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
a4be0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
a4c00	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
a4c20	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
a4c40	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
a4c60	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
a4c80	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
a4ca0	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a4cc0	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a4ce0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a4d00	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a4d20	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
a4d40	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
a4d60	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
a4d80	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
a4da0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
a4dc0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e	/modeling_bert.py",.line.558,.in
a4de0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	.forward.....self_attention_outp
a4e00	75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68	uts.=.self.attention(...File."/h
a4e20	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
a4e40	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
a4e60	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
a4e80	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 38 38 2c	ert/modeling_bert.py",.line.488,
a4ea0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74 70 75 74 73 20 3d 20 73	.in.forward.....self_outputs.=.s
a4ec0	65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.self(...File."/home/hsiangni
a4ee0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
a4f00	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
a4f20	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
a4f40	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.422,.in.forward.
a4f60	20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f 75 74 70 75 74 2e 74 72	....attn_output.=.attn_output.tr
a4f80	61 6e 73 70 6f 73 65 28 31 2c 20 32 29 0a bf 13 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 33 0a 07	anspose(1,.2).....transpose_23..
a4fa0	76 61 6c 5f 31 31 39 12 07 76 69 65 77 5f 32 33 1a 0c 6e 6f 64 65 5f 76 69 65 77 5f 32 33 22 07	val_119..view_23..node_view_23".
a4fc0	52 65 73 68 61 70 65 2a 10 0a 09 61 6c 6c 6f 77 7a 65 72 6f 18 01 a0 01 02 4a e2 03 0a 09 6e 61	Reshape*...allowzero.....J....na
a4fe0	6d 65 73 70 61 63 65 12 d4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
a5000	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
a5020	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
a5040	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
a5060	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
a5080	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
a50a0	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e	coder/bert.encoder.layer.5:.tran
a50c0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
a50e0	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
a5100	35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	5.attention:.transformers.models
a5120	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f	.bert.modeling_bert.BertAttentio
a5140	6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	n/bert.encoder.layer.5.attention
a5160	2e 73 65 6c 66 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	.self:.transformers.models.bert.
a5180	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74	modeling_bert.BertSdpaSelfAttent
a51a0	69 6f 6e 2f 76 69 65 77 5f 32 33 3a 20 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 4a 93	ion/view_23:.aten.view.defaultJ.
a51c0	03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
a51e0	79 12 f0 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
a5200	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
a5220	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
a5240	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
a5260	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
a5280	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
a52a0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a52c0	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
a52e0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20	t.modeling_bert.BertAttention',.
a5300	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
a5320	6e 67 5f 62 65 72 74 2e 42 65 72 74 53 64 70 61 53 65 6c 66 41 74 74 65 6e 74 69 6f 6e 27 2c 20	ng_bert.BertSdpaSelfAttention',.
a5340	27 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 27 5d 4a b7 01 0a 16 70 6b 67 2e 74 6f 72	'aten.view.default']J....pkg.tor
a5360	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9c 01 25 76 69 65 77 5f 32 33 20 3a 20 5b 6e 75	ch.onnx.fx_node...%view_23.:.[nu
a5380	6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65	m_users=1].=.call_function[targe
a53a0	74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 76 69 65 77 2e 64 65 66 61 75 6c 74 5d 28 61	t=torch.ops.aten.view.default](a
a53c0	72 67 73 20 3d 20 28 25 74 72 61 6e 73 70 6f 73 65 5f 32 33 2c 20 5b 25 73 79 6d 5f 73 69 7a 65	rgs.=.(%transpose_23,.[%sym_size
a53e0	5f 69 6e 74 5f 34 35 2c 20 25 73 79 6d 5f 73 69 7a 65 5f 69 6e 74 5f 34 38 2c 20 32 35 36 5d 29	_int_45,.%sym_size_int_48,.256])
a5400	2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a7 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	,.kwargs.=.{})J....pkg.torch.onn
a5420	78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 88 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65	x.name_scopes...['',.'bert',.'be
a5440	72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	rt.encoder',.'bert.encoder.layer
a5460	2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	.5',.'bert.encoder.layer.5.atten
a5480	74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	tion',.'bert.encoder.layer.5.att
a54a0	65 6e 74 69 6f 6e 2e 73 65 6c 66 27 2c 20 27 76 69 65 77 5f 32 33 27 5d 4a 94 09 0a 1a 70 6b 67	ention.self',.'view_23']J....pkg
a54c0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 f5 08 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
a54e0	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
a5500	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
a5520	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
a5540	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
a5560	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
a5580	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
a55a0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
a55c0	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
a55e0	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
a5600	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
a5620	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
a5640	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
a5660	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a5680	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a56a0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a56c0	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
a56e0	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
a5700	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a5720	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a5740	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a5760	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a5780	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
a57a0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
a57c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a57e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a5800	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a5820	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a5840	69 6e 65 20 34 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 6f 75 74	ine.488,.in.forward.....self_out
a5860	70 75 74 73 20 3d 20 73 65 6c 66 2e 73 65 6c 66 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	puts.=.self.self(...File."/home/
a5880	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
a58a0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
a58c0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
a58e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 32 33 2c 20 69 6e 20	modeling_bert.py",.line.423,.in.
a5900	66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 6e 5f 6f 75 74 70 75 74 20 3d 20 61 74 74 6e 5f 6f	forward.....attn_output.=.attn_o
a5920	75 74 70 75 74 2e 72 65 73 68 61 70 65 28 62 73 7a 2c 20 74 67 74 5f 6c 65 6e 2c 20 73 65 6c 66	utput.reshape(bsz,.tgt_len,.self
a5940	2e 61 6c 6c 5f 68 65 61 64 5f 73 69 7a 65 29 0a ca 16 0a 07 76 69 65 77 5f 32 33 0a 07 76 61 6c	.all_head_size).....view_23..val
a5960	5f 34 39 30 12 07 76 61 6c 5f 34 39 31 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 36 39 22 06	_490..val_491..node_MatMul_469".
a5980	4d 61 74 4d 75 6c 4a ad 04 0a 09 6e 61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f	MatMulJ....namespace...:.transfo
a59a0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a59c0	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
a59e0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
a5a00	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
a5a20	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a5a40	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
a5a60	6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.5:.transformers.models.ber
a5a80	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
a5aa0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66	ncoder.layer.5.attention:.transf
a5ac0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a5ae0	2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	.BertAttention/bert.encoder.laye
a5b00	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	r.5.attention.output:.transforme
a5b20	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
a5b40	74 53 65 6c 66 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	tSelfOutput/bert.encoder.layer.5
a5b60	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e	.attention.output.dense:.torch.n
a5b80	6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33	n.modules.linear.Linear/linear_3
a5ba0	33 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74	3:.aten.linear.defaultJ....pkg.t
a5bc0	6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72	orch.onnx.class_hierarchy...['tr
a5be0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a5c00	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
a5c20	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
a5c40	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertModel',.'transform
a5c60	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a5c80	72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	rtEncoder',.'transformers.models
a5ca0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20	.bert.modeling_bert.BertLayer',.
a5cc0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
a5ce0	6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	ng_bert.BertAttention',.'transfo
a5d00	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a5d20	42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	BertSelfOutput',.'torch.nn.modul
a5d40	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	es.linear.Linear',.'aten.linear.
a5d60	64 65 66 61 75 6c 74 27 5d 4a f7 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
a5d80	6e 6f 64 65 12 dc 01 25 6c 69 6e 65 61 72 5f 33 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	node...%linear_33.:.[num_users=1
a5da0	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
a5dc0	70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ps.aten.linear.default](args.=.(
a5de0	25 76 69 65 77 5f 32 33 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	%view_23,.%p_bert_encoder_layer_
a5e00	35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c	5_attention_output_dense_weight,
a5e20	20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69	.%p_bert_encoder_layer_5_attenti
a5e40	6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20	on_output_dense_bias),.kwargs.=.
a5e60	7b 7d 29 4a da 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70	{})J....pkg.torch.onnx.name_scop
a5e80	65 73 12 bb 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27	es...['',.'bert',.'bert.encoder'
a5ea0	2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e	,.'bert.encoder.layer.5',.'bert.
a5ec0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72	encoder.layer.5.attention',.'ber
a5ee0	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70	t.encoder.layer.5.attention.outp
a5f00	75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	ut',.'bert.encoder.layer.5.atten
a5f20	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 33 27 5d	tion.output.dense',.'linear_33']
a5f40	4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
a5f60	ba 0a 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
a5f80	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
a5fa0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
a5fc0	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
a5fe0	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
a6000	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
a6020	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
a6040	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
a6060	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
a6080	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
a60a0	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
a60c0	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
a60e0	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
a6100	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
a6120	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
a6140	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
a6160	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
a6180	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
a61a0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a61c0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a61e0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a6200	79 22 2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c	y",.line.558,.in.forward.....sel
a6220	66 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e	f_attention_outputs.=.self.atten
a6240	74 69 6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tion(...File."/home/hsiangniania
a6260	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
a6280	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
a62a0	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
a62c0	74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.497,.in.forward.....
a62e0	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73	attention_output.=.self.output(s
a6300	65 6c 66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	elf_outputs[0],.hidden_states)..
a6320	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
a6340	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
a6360	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
a6380	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
a63a0	6c 69 6e 65 20 34 33 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f	line.436,.in.forward.....hidden_
a63c0	73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65	states.=.self.dense(hidden_state
a63e0	73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	s)...File."/home/hsiangnianian/g
a6400	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a6420	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e	ython3.10/site-packages/torch/nn
a6440	2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69	/modules/linear.py",.line.134,.i
a6460	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e	n.forward.....return.F.linear(in
a6480	70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a f1 16 0a	put,.self.weight,.self.bias)....
a64a0	07 76 61 6c 5f 34 39 31 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	.val_491.0bert.encoder.layer.5.a
a64c0	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65	ttention.output.dense.bias..line
a64e0	61 72 5f 33 33 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 33 22 03 41 64 64 4a ad 04 0a 09 6e	ar_33..node_linear_33".AddJ....n
a6500	61 6d 65 73 70 61 63 65 12 9f 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
a6520	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
a6540	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
a6560	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a6580	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
a65a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
a65c0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61	ncoder/bert.encoder.layer.5:.tra
a65e0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a6600	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
a6620	2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.5.attention:.transformers.model
a6640	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
a6660	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.5.attentio
a6680	6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	n.output:.transformers.models.be
a66a0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f	rt.modeling_bert.BertSelfOutput/
a66c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f	bert.encoder.layer.5.attention.o
a66e0	75 74 70 75 74 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	utput.dense:.torch.nn.modules.li
a6700	6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 33 3a 20 61 74 65 6e 2e 6c 69 6e 65	near.Linear/linear_33:.aten.line
a6720	61 72 2e 64 65 66 61 75 6c 74 4a b0 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c	ar.defaultJ....pkg.torch.onnx.cl
a6740	61 73 73 5f 68 69 65 72 61 72 63 68 79 12 8d 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ass_hierarchy...['transformers.m
a6760	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72	odels.bert.modeling_bert.BertFor
a6780	54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	TokenClassification',.'transform
a67a0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a67c0	72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtModel',.'transformers.models.b
a67e0	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20	ert.modeling_bert.BertEncoder',.
a6800	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
a6820	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	ng_bert.BertLayer',.'transformer
a6840	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a6860	41 74 74 65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	Attention',.'transformers.models
a6880	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70	.bert.modeling_bert.BertSelfOutp
a68a0	75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69	ut',.'torch.nn.modules.linear.Li
a68c0	6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a f7 01	near',.'aten.linear.default']J..
a68e0	0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 dc 01 25 6c 69 6e 65	..pkg.torch.onnx.fx_node...%line
a6900	61 72 5f 33 33 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e	ar_33.:.[num_users=1].=.call_fun
a6920	63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65	ction[target=torch.ops.aten.line
a6940	61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 76 69 65 77 5f 32 33 2c 20 25 70	ar.default](args.=.(%view_23,.%p
a6960	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_5_attention_
a6980	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	output_dense_weight,.%p_bert_enc
a69a0	6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65	oder_layer_5_attention_output_de
a69c0	6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a da 01 0a 1a 70 6b 67 2e	nse_bias),.kwargs.=.{})J....pkg.
a69e0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 bb 01 5b 27 27 2c 20 27 62	torch.onnx.name_scopes...['',.'b
a6a00	65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f	ert',.'bert.encoder',.'bert.enco
a6a20	64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	der.layer.5',.'bert.encoder.laye
a6a40	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	r.5.attention',.'bert.encoder.la
a6a60	79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65	yer.5.attention.output',.'bert.e
a6a80	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e	ncoder.layer.5.attention.output.
a6aa0	64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 33 27 5d 4a d9 0a 0a 1a 70 6b 67 2e 74 6f 72	dense',.'linear_33']J....pkg.tor
a6ac0	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
a6ae0	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
a6b00	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
a6b20	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
a6b40	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
a6b60	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
a6b80	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
a6ba0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
a6bc0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
a6be0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
a6c00	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
a6c20	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
a6c40	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
a6c60	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
a6c80	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
a6ca0	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
a6cc0	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
a6ce0	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
a6d00	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a6d20	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a6d40	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
a6d60	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 35 38	bert/modeling_bert.py",.line.558
a6d80	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74 69 6f 6e 5f	,.in.forward.....self_attention_
a6da0	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20 46 69 6c 65	outputs.=.self.attention(...File
a6dc0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
a6de0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
a6e00	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
a6e20	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
a6e40	34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	497,.in.forward.....attention_ou
a6e60	74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70 75 74 73 5b	tput.=.self.output(self_outputs[
a6e80	30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	0],.hidden_states)...File."/home
a6ea0	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
a6ec0	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
a6ee0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
a6f00	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 36 2c 20 69 6e	/modeling_bert.py",.line.436,.in
a6f20	20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c	.forward.....hidden_states.=.sel
a6f40	66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	f.dense(hidden_states)...File."/
a6f60	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a6f80	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a6fa0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
a6fc0	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
a6fe0	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
a7000	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a 9a 13 0a 09 6c 69 6e 65 61 72 5f 33 33 0a 0d	ight,.self.bias).....linear_33..
a7020	6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 12 07 61 64 64 5f 34 38 38 1a 0c 6e 6f 64 65 5f 61 64 64	layer_norm_10..add_488..node_add
a7040	5f 34 38 38 22 03 41 64 64 4a db 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 cd 03 3a 20 74 72 61 6e	_488".AddJ....namespace...:.tran
a7060	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
a7080	72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65	rt.BertForTokenClassification/be
a70a0	72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	rt:.transformers.models.bert.mod
a70c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65	eling_bert.BertModel/bert.encode
a70e0	72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	r:.transformers.models.bert.mode
a7100	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64	ling_bert.BertEncoder/bert.encod
a7120	65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	er.layer.5:.transformers.models.
a7140	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72	bert.modeling_bert.BertLayer/ber
a7160	74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61	t.encoder.layer.5.attention:.tra
a7180	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a71a0	65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ert.BertAttention/bert.encoder.l
a71c0	61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f	ayer.5.attention.output:.transfo
a71e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a7200	42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f 61 64 64 5f 34 38 38 3a 20 61 74 65 6e 2e 61 64 64	BertSelfOutput/add_488:.aten.add
a7220	2e 54 65 6e 73 6f 72 4a 8a 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	.TensorJ....pkg.torch.onnx.class
a7240	5f 68 69 65 72 61 72 63 68 79 12 e7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
a7260	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
a7280	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
a72a0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
a72c0	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
a72e0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
a7300	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a7320	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
a7340	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74	odels.bert.modeling_bert.BertAtt
a7360	65 6e 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	ention',.'transformers.models.be
a7380	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27	rt.modeling_bert.BertSelfOutput'
a73a0	2c 20 27 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 27 5d 4a 95 01 0a 16 70 6b 67 2e 74 6f 72	,.'aten.add.Tensor']J....pkg.tor
a73c0	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 7b 25 61 64 64 5f 34 38 38 20 3a 20 5b 6e 75 6d	ch.onnx.fx_node.{%add_488.:.[num
a73e0	5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74	_users=1].=.call_function[target
a7400	3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73	=torch.ops.aten.add.Tensor](args
a7420	20 3d 20 28 25 63 6c 6f 6e 65 5f 31 32 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 30 29 2c 20	.=.(%clone_12,.%layer_norm_10),.
a7440	6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a9 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	kwargs.=.{})J....pkg.torch.onnx.
a7460	6e 61 6d 65 5f 73 63 6f 70 65 73 12 8a 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74	name_scopes...['',.'bert',.'bert
a7480	2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	.encoder',.'bert.encoder.layer.5
a74a0	27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	',.'bert.encoder.layer.5.attenti
a74c0	6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e	on',.'bert.encoder.layer.5.atten
a74e0	74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 34 38 38 27 5d 4a b2 09 0a 1a 70 6b 67	tion.output',.'add_488']J....pkg
a7500	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 93 09 46 69 6c 65 20 22	.torch.onnx.stack_trace...File."
a7520	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
a7540	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
a7560	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
a7580	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36	/bert/modeling_bert.py",.line.16
a75a0	37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	76,.in.forward.....outputs.=.sel
a75c0	66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	f.bert(...File."/home/hsiangnian
a75e0	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
a7600	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
a7620	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
a7640	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	ert.py",.line.1000,.in.forward..
a7660	20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65	...encoder_outputs.=.self.encode
a7680	72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	r(...File."/home/hsiangnianian/g
a76a0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
a76c0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
a76e0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
a7700	79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.650,.in.forward.....lay
a7720	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c	er_outputs.=.layer_module(...Fil
a7740	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a7760	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a7780	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a77a0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a77c0	20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f 61 74 74 65 6e 74	.558,.in.forward.....self_attent
a77e0	69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69 6f 6e 28 0a 20 20	ion_outputs.=.self.attention(...
a7800	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a7820	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a7840	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a7860	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a7880	69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74 74 65 6e 74 69 6f	ine.497,.in.forward.....attentio
a78a0	6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c 66 5f 6f 75 74 70	n_output.=.self.output(self_outp
a78c0	75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f	uts[0],.hidden_states)...File."/
a78e0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a7900	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a7920	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
a7940	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 34 33 38	bert/modeling_bert.py",.line.438
a7960	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
a7980	20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20	.self.LayerNorm(hidden_states.+.
a79a0	69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a ca 18 0a 07 61 64 64 5f 34 38 38 0a 36 62 65 72 74 2e	input_tensor).....add_488.6bert.
a79c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.5.attention.output
a79e0	2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.LayerNorm.weight.4bert.encoder.
a7a00	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f	layer.5.attention.output.LayerNo
a7a20	72 6d 2e 62 69 61 73 12 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 1a 12 6e 6f 64 65 5f 6c 61 79	rm.bias..layer_norm_11..node_lay
a7a40	65 72 5f 6e 6f 72 6d 5f 31 31 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11	er_norm_11".LayerNormalization*.
a7a60	0a 0a 73 74 61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c	..stash_type.....*...epsilon....
a7a80	2b a0 01 01 2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a c3 04 0a 09 6e	+...*...axis..............J....n
a7aa0	61 6d 65 73 70 61 63 65 12 b5 04 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
a7ac0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
a7ae0	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
a7b00	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a7b20	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
a7b40	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
a7b60	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61	ncoder/bert.encoder.layer.5:.tra
a7b80	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a7ba0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
a7bc0	2e 35 2e 61 74 74 65 6e 74 69 6f 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.5.attention:.transformers.model
a7be0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69	s.bert.modeling_bert.BertAttenti
a7c00	6f 6e 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	on/bert.encoder.layer.5.attentio
a7c20	6e 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	n.output:.transformers.models.be
a7c40	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 2f	rt.modeling_bert.BertSelfOutput/
a7c60	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f	bert.encoder.layer.5.attention.o
a7c80	75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65	utput.LayerNorm:.torch.nn.module
a7ca0	73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f	s.normalization.LayerNorm/layer_
a7cc0	6e 6f 72 6d 5f 31 31 3a 20 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74	norm_11:.aten.layer_norm.default
a7ce0	4a be 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
a7d00	63 68 79 12 9b 03 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
a7d20	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
a7d40	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
a7d60	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
a7d80	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
a7da0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
a7dc0	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a7de0	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
a7e00	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 41 74 74 65 6e 74 69 6f 6e 27	ert.modeling_bert.BertAttention'
a7e20	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
a7e40	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 53 65 6c 66 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63	ling_bert.BertSelfOutput',.'torc
a7e60	68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72	h.nn.modules.normalization.Layer
a7e80	4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27	Norm',.'aten.layer_norm.default'
a7ea0	5d 4a 95 02 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 fa 01 25	]J....pkg.torch.onnx.fx_node...%
a7ec0	6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 32 5d 20 3d 20	layer_norm_11.:.[num_users=2].=.
a7ee0	63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61	call_function[target=torch.ops.a
a7f00	74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ten.layer_norm.default](args.=.(
a7f20	25 61 64 64 5f 34 38 38 2c 20 5b 32 35 36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72	%add_488,.[256],.%p_bert_encoder
a7f40	5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e	_layer_5_attention_output_layern
a7f60	6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	orm_weight,.%p_bert_encoder_laye
a7f80	72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	r_5_attention_output_layernorm_b
a7fa0	69 61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a e2 01 0a 1a 70 6b	ias,.1e-12),.kwargs.=.{})J....pk
a7fc0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 c3 01 5b 27 27 2c 20	g.torch.onnx.name_scopes...['',.
a7fe0	27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e	'bert',.'bert.encoder',.'bert.en
a8000	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	coder.layer.5',.'bert.encoder.la
a8020	79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	yer.5.attention',.'bert.encoder.
a8040	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74	layer.5.attention.output',.'bert
a8060	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75	.encoder.layer.5.attention.outpu
a8080	74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 27 5d 4a d9	t.LayerNorm',.'layer_norm_11']J.
a80a0	0a 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 ba 0a	...pkg.torch.onnx.stack_trace...
a80c0	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
a80e0	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
a8100	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
a8120	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
a8140	69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73	ine.1676,.in.forward.....outputs
a8160	20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	.=.self.bert(...File."/home/hsia
a8180	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
a81a0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
a81c0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
a81e0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1000,.in.for
a8200	77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e	ward.....encoder_outputs.=.self.
a8220	65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	encoder(...File."/home/hsiangnia
a8240	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
a8260	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
a8280	61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f	ansformers/models/bert/modeling_
a82a0	62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20	bert.py",.line.650,.in.forward..
a82c0	20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28	...layer_outputs.=.layer_module(
a82e0	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
a8300	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
a8320	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
a8340	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
a8360	2c 20 6c 69 6e 65 20 35 35 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 73 65 6c 66 5f	,.line.558,.in.forward.....self_
a8380	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 61 74 74 65 6e 74 69	attention_outputs.=.self.attenti
a83a0	6f 6e 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	on(...File."/home/hsiangnianian/
a83c0	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
a83e0	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
a8400	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
a8420	70 79 22 2c 20 6c 69 6e 65 20 34 39 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 61 74	py",.line.497,.in.forward.....at
a8440	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 20 3d 20 73 65 6c 66 2e 6f 75 74 70 75 74 28 73 65 6c	tention_output.=.self.output(sel
a8460	66 5f 6f 75 74 70 75 74 73 5b 30 5d 2c 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46	f_outputs[0],.hidden_states)...F
a8480	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
a84a0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
a84c0	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
a84e0	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
a8500	6e 65 20 34 33 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74	ne.438,.in.forward.....hidden_st
a8520	61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61	ates.=.self.LayerNorm(hidden_sta
a8540	74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	tes.+.input_tensor)...File."/hom
a8560	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
a8580	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
a85a0	70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c	packages/torch/nn/modules/normal
a85c0	69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69 6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72	ization.py",.line.229,.in.forwar
a85e0	64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 61 79 65 72 5f 6e 6f 72 6d 28 0a bb 13 0a 0d 6c	d.....return.F.layer_norm(.....l
a8600	61 79 65 72 5f 6e 6f 72 6d 5f 31 31 0a 07 76 61 6c 5f 34 39 34 12 07 76 61 6c 5f 34 39 35 1a 0f	ayer_norm_11..val_494..val_495..
a8620	6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 37 31 22 06 4d 61 74 4d 75 6c 4a d2 03 0a 09 6e 61 6d 65	node_MatMul_471".MatMulJ....name
a8640	73 70 61 63 65 12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	space...:.transformers.models.be
a8660	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
a8680	73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	ssification/bert:.transformers.m
a86a0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64	odels.bert.modeling_bert.BertMod
a86c0	65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	el/bert.encoder:.transformers.mo
a86e0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f	dels.bert.modeling_bert.BertEnco
a8700	64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66	der/bert.encoder.layer.5:.transf
a8720	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a8740	2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	.BertLayer/bert.encoder.layer.5.
a8760	69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	intermediate:.transformers.model
a8780	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65	s.bert.modeling_bert.BertInterme
a87a0	64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72	diate/bert.encoder.layer.5.inter
a87c0	6d 65 64 69 61 74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	mediate.dense:.torch.nn.modules.
a87e0	6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 34 3a 20 61 74 65 6e 2e 6c 69	linear.Linear/linear_34:.aten.li
a8800	6e 65 61 72 2e 64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e	near.defaultJ....pkg.torch.onnx.
a8820	63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	class_hierarchy...['transformers
a8840	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46	.models.bert.modeling_bert.BertF
a8860	6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f	orTokenClassification',.'transfo
a8880	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a88a0	42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertModel',.'transformers.models
a88c0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27	.bert.modeling_bert.BertEncoder'
a88e0	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
a8900	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ling_bert.BertLayer',.'transform
a8920	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
a8940	72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	rtIntermediate',.'torch.nn.modul
a8960	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	es.linear.Linear',.'aten.linear.
a8980	64 65 66 61 75 6c 74 27 5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
a89a0	6e 6f 64 65 12 da 01 25 6c 69 6e 65 61 72 5f 33 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	node...%linear_34.:.[num_users=1
a89c0	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
a89e0	70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ps.aten.linear.default](args.=.(
a8a00	25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	%layer_norm_11,.%p_bert_encoder_
a8a20	6c 61 79 65 72 5f 35 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68	layer_5_intermediate_dense_weigh
a8a40	74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 69 6e 74 65 72	t,.%p_bert_encoder_layer_5_inter
a8a60	6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d	mediate_dense_bias),.kwargs.=.{}
a8a80	29 4a b0 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	)J....pkg.torch.onnx.name_scopes
a8aa0	12 91 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20	...['',.'bert',.'bert.encoder',.
a8ac0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e	'bert.encoder.layer.5',.'bert.en
a8ae0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65	coder.layer.5.intermediate',.'be
a8b00	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e	rt.encoder.layer.5.intermediate.
a8b20	64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 34 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72	dense',.'linear_34']J....pkg.tor
a8b40	63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d	ch.onnx.stack_trace...File."/hom
a8b60	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
a8b80	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
a8ba0	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
a8bc0	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20	t/modeling_bert.py",.line.1676,.
a8be0	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65	in.forward.....outputs.=.self.be
a8c00	72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	rt(...File."/home/hsiangnianian/
a8c20	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
a8c40	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
a8c60	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
a8c80	70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65	py",.line.1000,.in.forward.....e
a8ca0	6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20	ncoder_outputs.=.self.encoder(..
a8cc0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
a8ce0	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
a8d00	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
a8d20	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
a8d40	6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f	line.650,.in.forward.....layer_o
a8d60	75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f	utputs.=.layer_module(...File."/
a8d80	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
a8da0	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
a8dc0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
a8de0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38	bert/modeling_bert.py",.line.588
a8e00	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20	,.in.forward.....layer_output.=.
a8e20	61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c	apply_chunking_to_forward(...Fil
a8e40	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
a8e60	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
a8e80	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
a8ea0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
a8ec0	20 35 31 32 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74	.512,.in.forward.....hidden_stat
a8ee0	65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20	es.=.self.dense(hidden_states)..
a8f00	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
a8f20	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
a8f40	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64	n3.10/site-packages/torch/nn/mod
a8f60	75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f	ules/linear.py",.line.134,.in.fo
a8f80	72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c	rward.....return.F.linear(input,
a8fa0	20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a d8 13 0a 07 76 61 6c	.self.weight,.self.bias).....val
a8fc0	5f 34 39 35 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72	_495.,bert.encoder.layer.5.inter
a8fe0	6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e 65 61 72 5f 33 34 1a 0e 6e	mediate.dense.bias..linear_34..n
a9000	6f 64 65 5f 6c 69 6e 65 61 72 5f 33 34 22 03 41 64 64 4a d2 03 0a 09 6e 61 6d 65 73 70 61 63 65	ode_linear_34".AddJ....namespace
a9020	12 c4 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f	...:.transformers.models.bert.mo
a9040	64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69	deling_bert.BertForTokenClassifi
a9060	63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	cation/bert:.transformers.models
a9080	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65	.bert.modeling_bert.BertModel/be
a90a0	72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	rt.encoder:.transformers.models.
a90c0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62	bert.modeling_bert.BertEncoder/b
a90e0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	ert.encoder.layer.5:.transformer
a9100	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a9120	4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72	Layer/bert.encoder.layer.5.inter
a9140	6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	mediate:.transformers.models.ber
a9160	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65	t.modeling_bert.BertIntermediate
a9180	2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61	/bert.encoder.layer.5.intermedia
a91a0	74 65 2e 64 65 6e 73 65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61	te.dense:.torch.nn.modules.linea
a91c0	72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 34 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	r.Linear/linear_34:.aten.linear.
a91e0	64 65 66 61 75 6c 74 4a fa 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73	defaultJ....pkg.torch.onnx.class
a9200	5f 68 69 65 72 61 72 63 68 79 12 d7 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	_hierarchy...['transformers.mode
a9220	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
a9240	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73	enClassification',.'transformers
a9260	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
a9280	6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	odel',.'transformers.models.bert
a92a0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72	.modeling_bert.BertEncoder',.'tr
a92c0	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
a92e0	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	bert.BertLayer',.'transformers.m
a9300	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74	odels.bert.modeling_bert.BertInt
a9320	65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69	ermediate',.'torch.nn.modules.li
a9340	6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	near.Linear',.'aten.linear.defau
a9360	6c 74 27 5d 4a f5 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
a9380	da 01 25 6c 69 6e 65 61 72 5f 33 34 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63	..%linear_34.:.[num_users=1].=.c
a93a0	61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74	all_function[target=torch.ops.at
a93c0	65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 61 79 65	en.linear.default](args.=.(%laye
a93e0	72 5f 6e 6f 72 6d 5f 31 31 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72	r_norm_11,.%p_bert_encoder_layer
a9400	5f 35 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 2c 20 25 70	_5_intermediate_dense_weight,.%p
a9420	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 69 6e 74 65 72 6d 65 64 69 61	_bert_encoder_layer_5_intermedia
a9440	74 65 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a b0 01 0a	te_dense_bias),.kwargs.=.{})J...
a9460	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 91 01 5b 27	.pkg.torch.onnx.name_scopes...['
a9480	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
a94a0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.5',.'bert.encoder
a94c0	2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e	.layer.5.intermediate',.'bert.en
a94e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65	coder.layer.5.intermediate.dense
a9500	27 2c 20 27 6c 69 6e 65 61 72 5f 33 34 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	',.'linear_34']J....pkg.torch.on
a9520	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
a9540	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
a9560	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
a9580	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
a95a0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
a95c0	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
a95e0	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
a9600	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
a9620	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
a9640	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
a9660	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
a9680	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
a96a0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
a96c0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
a96e0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
a9700	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
a9720	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
a9740	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
a9760	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
a9780	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
a97a0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
a97c0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
a97e0	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
a9800	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
a9820	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
a9840	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
a9860	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
a9880	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 32 2c	ert/modeling_bert.py",.line.512,
a98a0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
a98c0	73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65	self.dense(hidden_states)...File
a98e0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
a9900	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
a9920	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f	/site-packages/torch/nn/modules/
a9940	6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64	linear.py",.line.134,.in.forward
a9960	0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66	.....return.F.linear(input,.self
a9980	2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a de 12 0a 09 6c 69 6e 65 61 72 5f 33	.weight,.self.bias).....linear_3
a99a0	34 0a 07 76 61 6c 5f 31 32 36 12 07 76 61 6c 5f 34 39 37 1a 0c 6e 6f 64 65 5f 44 69 76 5f 34 37	4..val_126..val_497..node_Div_47
a99c0	33 22 03 44 69 76 4a e4 03 0a 09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f	3".DivJ....namespace...:.transfo
a99e0	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
a9a00	42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a	BertForTokenClassification/bert:
a9a20	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
a9a40	6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20	ng_bert.BertModel/bert.encoder:.
a9a60	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
a9a80	67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	g_bert.BertEncoder/bert.encoder.
a9aa0	6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	layer.5:.transformers.models.ber
a9ac0	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65	t.modeling_bert.BertLayer/bert.e
a9ae0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61	ncoder.layer.5.intermediate:.tra
a9b00	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
a9b20	65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65	ert.BertIntermediate/bert.encode
a9b40	72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69	r.layer.5.intermediate.intermedi
a9b60	61 74 65 5f 61 63 74 5f 66 6e 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74	ate_act_fn:.transformers.activat
a9b80	69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 35 3a 20 61 74 65 6e	ions.GELUActivation/gelu_5:.aten
a9ba0	2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	.gelu.defaultJ....pkg.torch.onnx
a9bc0	2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72	.class_hierarchy...['transformer
a9be0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
a9c00	46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66	ForTokenClassification',.'transf
a9c20	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
a9c40	2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertModel',.'transformers.model
a9c60	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72	s.bert.modeling_bert.BertEncoder
a9c80	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
a9ca0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	eling_bert.BertLayer',.'transfor
a9cc0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
a9ce0	65 72 74 49 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	ertIntermediate',.'transformers.
a9d00	61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74	activations.GELUActivation',.'at
a9d20	65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e	en.gelu.default']J....pkg.torch.
a9d40	6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 6e 25 67 65 6c 75 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65	onnx.fx_node.n%gelu_5.:.[num_use
a9d60	72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72	rs=1].=.call_function[target=tor
a9d80	63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d	ch.ops.aten.gelu.default](args.=
a9da0	20 28 25 6c 69 6e 65 61 72 5f 33 34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a	.(%linear_34,),.kwargs.=.{})J...
a9dc0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27	.pkg.torch.onnx.name_scopes...['
a9de0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
a9e00	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.5',.'bert.encoder
a9e20	2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e	.layer.5.intermediate',.'bert.en
a9e40	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72	coder.layer.5.intermediate.inter
a9e60	6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 35 27 5d 4a f7 08 0a 1a 70	mediate_act_fn',.'gelu_5']J....p
a9e80	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65	kg.torch.onnx.stack_trace...File
a9ea0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
a9ec0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
a9ee0	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
a9f00	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
a9f20	31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73	1676,.in.forward.....outputs.=.s
a9f40	65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	elf.bert(...File."/home/hsiangni
a9f60	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
a9f80	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
a9fa0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
a9fc0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	_bert.py",.line.1000,.in.forward
a9fe0	0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f	.....encoder_outputs.=.self.enco
aa000	64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	der(...File."/home/hsiangnianian
aa020	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
aa040	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66	/python3.10/site-packages/transf
aa060	6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers/models/bert/modeling_bert
aa080	2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c	.py",.line.650,.in.forward.....l
aa0a0	61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46	ayer_outputs.=.layer_module(...F
aa0c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
aa0e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
aa100	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
aa120	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
aa140	6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74	ne.588,.in.forward.....layer_out
aa160	70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28	put.=.apply_chunking_to_forward(
aa180	0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
aa1a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
aa1c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
aa1e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
aa200	2c 20 6c 69 6e 65 20 35 31 33 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65	,.line.513,.in.forward.....hidde
aa220	6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74	n_states.=.self.intermediate_act
aa240	5f 66 6e 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	_fn(hidden_states)...File."/home
aa260	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
aa280	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
aa2a0	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73	ackages/transformers/activations
aa2c0	2e 70 79 22 2c 20 6c 69 6e 65 20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65	.py",.line.85,.in.forward.....re
aa2e0	74 75 72 6e 20 73 65 6c 66 2e 61 63 74 28 69 6e 70 75 74 29 0a d3 12 0a 07 76 61 6c 5f 34 39 37	turn.self.act(input).....val_497
aa300	12 07 76 61 6c 5f 34 39 38 1a 0c 6e 6f 64 65 5f 45 72 66 5f 34 37 34 22 03 45 72 66 4a e4 03 0a	..val_498..node_Erf_474".ErfJ...
aa320	09 6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	.namespace...:.transformers.mode
aa340	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b	ls.bert.modeling_bert.BertForTok
aa360	65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d	enClassification/bert:.transform
aa380	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
aa3a0	72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65	rtModel/bert.encoder:.transforme
aa3c0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
aa3e0	74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74	tEncoder/bert.encoder.layer.5:.t
aa400	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
aa420	5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_bert.BertLayer/bert.encoder.lay
aa440	65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	er.5.intermediate:.transformers.
aa460	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e	models.bert.modeling_bert.BertIn
aa480	74 65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	termediate/bert.encoder.layer.5.
aa4a0	69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e	intermediate.intermediate_act_fn
aa4c0	3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41	:.transformers.activations.GELUA
aa4e0	63 74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 35 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61	ctivation/gelu_5:.aten.gelu.defa
aa500	75 6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65	ultJ....pkg.torch.onnx.class_hie
aa520	72 61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rarchy...['transformers.models.b
aa540	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c	ert.modeling_bert.BertForTokenCl
aa560	61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	assification',.'transformers.mod
aa580	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c	els.bert.modeling_bert.BertModel
aa5a0	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
aa5c0	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66	eling_bert.BertEncoder',.'transf
aa5e0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
aa600	2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	.BertLayer',.'transformers.model
aa620	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65	s.bert.modeling_bert.BertInterme
aa640	64 69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e	diate',.'transformers.activation
aa660	73 2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65	s.GELUActivation',.'aten.gelu.de
aa680	66 61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f	fault']J....pkg.torch.onnx.fx_no
aa6a0	64 65 12 6e 25 67 65 6c 75 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61	de.n%gelu_5.:.[num_users=1].=.ca
aa6c0	6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65	ll_function[target=torch.ops.ate
aa6e0	6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f	n.gelu.default](args.=.(%linear_
aa700	33 34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68	34,),.kwargs.=.{})J....pkg.torch
aa720	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c	.onnx.name_scopes...['',.'bert',
aa740	20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	.'bert.encoder',.'bert.encoder.l
aa760	61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69	ayer.5',.'bert.encoder.layer.5.i
aa780	6e 74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ntermediate',.'bert.encoder.laye
aa7a0	72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63	r.5.intermediate.intermediate_ac
aa7c0	74 5f 66 6e 27 2c 20 27 67 65 6c 75 5f 35 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	t_fn',.'gelu_5']J....pkg.torch.o
aa7e0	6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	nnx.stack_trace...File."/home/hs
aa800	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
aa820	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
aa840	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
aa860	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66	deling_bert.py",.line.1676,.in.f
aa880	6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a	orward.....outputs.=.self.bert(.
aa8a0	20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
aa8c0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
aa8e0	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
aa900	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
aa920	20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64	.line.1000,.in.forward.....encod
aa940	65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c	er_outputs.=.self.encoder(...Fil
aa960	65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63	e."/home/hsiangnianian/gitprojec
aa980	74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31	t/base-model/.venv/lib/python3.1
aa9a0	30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64	0/site-packages/transformers/mod
aa9c0	65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65	els/bert/modeling_bert.py",.line
aa9e0	20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75	.650,.in.forward.....layer_outpu
aaa00	74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	ts.=.layer_module(...File."/home
aaa20	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
aaa40	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
aaa60	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
aaa80	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e	/modeling_bert.py",.line.588,.in
aaaa0	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c	.forward.....layer_output.=.appl
aaac0	79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f	y_chunking_to_forward(...File."/
aaae0	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
aab00	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
aab20	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
aab40	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33	bert/modeling_bert.py",.line.513
aab60	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d	,.in.forward.....hidden_states.=
aab80	20 73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e	.self.intermediate_act_fn(hidden
aaba0	5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61	_states)...File."/home/hsiangnia
aabc0	6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76	nian/gitproject/base-model/.venv
aabe0	2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72	/lib/python3.10/site-packages/tr
aac00	61 6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65	ansformers/activations.py",.line
aac20	20 38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e	.85,.in.forward.....return.self.
aac40	61 63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 34 39 38 0a 07 63 6c 6f 6e 65 5f 31 12	act(input).....val_498..clone_1.
aac60	07 76 61 6c 5f 35 30 30 1a 0c 6e 6f 64 65 5f 41 64 64 5f 34 37 36 22 03 41 64 64 4a e4 03 0a 09	.val_500..node_Add_476".AddJ....
aac80	6e 61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
aaca0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
aacc0	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
aace0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
aad00	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
aad20	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
aad40	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72	Encoder/bert.encoder.layer.5:.tr
aad60	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
aad80	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
aada0	72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d	r.5.intermediate:.transformers.m
aadc0	6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74	odels.bert.modeling_bert.BertInt
aade0	65 72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69	ermediate/bert.encoder.layer.5.i
aae00	6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a	ntermediate.intermediate_act_fn:
aae20	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63	.transformers.activations.GELUAc
aae40	74 69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 35 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75	tivation/gelu_5:.aten.gelu.defau
aae60	6c 74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72	ltJ....pkg.torch.onnx.class_hier
aae80	61 72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65	archy...['transformers.models.be
aaea0	72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61	rt.modeling_bert.BertForTokenCla
aaec0	73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ssification',.'transformers.mode
aaee0	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27	ls.bert.modeling_bert.BertModel'
aaf00	2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65	,.'transformers.models.bert.mode
aaf20	6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f	ling_bert.BertEncoder',.'transfo
aaf40	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
aaf60	42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	BertLayer',.'transformers.models
aaf80	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64	.bert.modeling_bert.BertIntermed
aafa0	69 61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73	iate',.'transformers.activations
aafc0	2e 47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66	.GELUActivation',.'aten.gelu.def
aafe0	61 75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64	ault']J....pkg.torch.onnx.fx_nod
ab000	65 12 6e 25 67 65 6c 75 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c	e.n%gelu_5.:.[num_users=1].=.cal
ab020	6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e	l_function[target=torch.ops.aten
ab040	2e 67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33	.gelu.default](args.=.(%linear_3
ab060	34 2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e	4,),.kwargs.=.{})J....pkg.torch.
ab080	6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20	onnx.name_scopes...['',.'bert',.
ab0a0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	'bert.encoder',.'bert.encoder.la
ab0c0	79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e	yer.5',.'bert.encoder.layer.5.in
ab0e0	74 65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	termediate',.'bert.encoder.layer
ab100	2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74	.5.intermediate.intermediate_act
ab120	5f 66 6e 27 2c 20 27 67 65 6c 75 5f 35 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	_fn',.'gelu_5']J....pkg.torch.on
ab140	6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69	nx.stack_trace...File."/home/hsi
ab160	61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c	angnianian/gitproject/base-model
ab180	2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61	/.venv/lib/python3.10/site-packa
ab1a0	67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64	ges/transformers/models/bert/mod
ab1c0	65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f	eling_bert.py",.line.1676,.in.fo
ab1e0	72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20	rward.....outputs.=.self.bert(..
ab200	20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72	.File."/home/hsiangnianian/gitpr
ab220	6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f	oject/base-model/.venv/lib/pytho
ab240	6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73	n3.10/site-packages/transformers
ab260	2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20	/models/bert/modeling_bert.py",.
ab280	6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65	line.1000,.in.forward.....encode
ab2a0	72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65	r_outputs.=.self.encoder(...File
ab2c0	20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74	."/home/hsiangnianian/gitproject
ab2e0	2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30	/base-model/.venv/lib/python3.10
ab300	2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65	/site-packages/transformers/mode
ab320	6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20	ls/bert/modeling_bert.py",.line.
ab340	36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74	650,.in.forward.....layer_output
ab360	73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.layer_module(...File."/home/
ab380	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
ab3a0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
ab3c0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
ab3e0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20	modeling_bert.py",.line.588,.in.
ab400	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79	forward.....layer_output.=.apply
ab420	5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68	_chunking_to_forward(...File."/h
ab440	6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73	ome/hsiangnianian/gitproject/bas
ab460	65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74	e-model/.venv/lib/python3.10/sit
ab480	65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62	e-packages/transformers/models/b
ab4a0	65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c	ert/modeling_bert.py",.line.513,
ab4c0	20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20	.in.forward.....hidden_states.=.
ab4e0	73 65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f	self.intermediate_act_fn(hidden_
ab500	73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	states)...File."/home/hsiangnian
ab520	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
ab540	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
ab560	6e 73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20	nsformers/activations.py",.line.
ab580	38 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61	85,.in.forward.....return.self.a
ab5a0	63 74 28 69 6e 70 75 74 29 0a dc 12 0a 07 76 61 6c 5f 31 33 31 0a 07 76 61 6c 5f 35 30 30 12 07	ct(input).....val_131..val_500..
ab5c0	76 61 6c 5f 35 30 32 1a 0c 6e 6f 64 65 5f 4d 75 6c 5f 34 37 38 22 03 4d 75 6c 4a e4 03 0a 09 6e	val_502..node_Mul_478".MulJ....n
ab5e0	61 6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	amespace...:.transformers.models
ab600	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
ab620	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	Classification/bert:.transformer
ab640	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
ab660	4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	Model/bert.encoder:.transformers
ab680	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45	.models.bert.modeling_bert.BertE
ab6a0	6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61	ncoder/bert.encoder.layer.5:.tra
ab6c0	6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers.models.bert.modeling_b
ab6e0	65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	ert.BertLayer/bert.encoder.layer
ab700	2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	.5.intermediate:.transformers.mo
ab720	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65	dels.bert.modeling_bert.BertInte
ab740	72 6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e	rmediate/bert.encoder.layer.5.in
ab760	74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20	termediate.intermediate_act_fn:.
ab780	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74	transformers.activations.GELUAct
ab7a0	69 76 61 74 69 6f 6e 2f 67 65 6c 75 5f 35 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c	ivation/gelu_5:.aten.gelu.defaul
ab7c0	74 4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61	tJ....pkg.torch.onnx.class_hiera
ab7e0	72 63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	rchy...['transformers.models.ber
ab800	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
ab820	73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	sification',.'transformers.model
ab840	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c	s.bert.modeling_bert.BertModel',
ab860	20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c	.'transformers.models.bert.model
ab880	69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72	ing_bert.BertEncoder',.'transfor
ab8a0	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
ab8c0	65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	ertLayer',.'transformers.models.
ab8e0	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69	bert.modeling_bert.BertIntermedi
ab900	61 74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e	ate',.'transformers.activations.
ab920	47 45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61	GELUActivation',.'aten.gelu.defa
ab940	75 6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65	ult']J....pkg.torch.onnx.fx_node
ab960	12 6e 25 67 65 6c 75 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c	.n%gelu_5.:.[num_users=1].=.call
ab980	5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e	_function[target=torch.ops.aten.
ab9a0	67 65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33 34	gelu.default](args.=.(%linear_34
ab9c0	2c 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f	,),.kwargs.=.{})J....pkg.torch.o
ab9e0	6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27	nnx.name_scopes...['',.'bert',.'
aba00	62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	bert.encoder',.'bert.encoder.lay
aba20	65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74	er.5',.'bert.encoder.layer.5.int
aba40	65 72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ermediate',.'bert.encoder.layer.
aba60	35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f	5.intermediate.intermediate_act_
aba80	66 6e 27 2c 20 27 67 65 6c 75 5f 35 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e	fn',.'gelu_5']J....pkg.torch.onn
abaa0	78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	x.stack_trace...File."/home/hsia
abac0	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
abae0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
abb00	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
abb20	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72	ling_bert.py",.line.1676,.in.for
abb40	77 61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20	ward.....outputs.=.self.bert(...
abb60	46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f	File."/home/hsiangnianian/gitpro
abb80	6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e	ject/base-model/.venv/lib/python
abba0	33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f	3.10/site-packages/transformers/
abbc0	6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c	models/bert/modeling_bert.py",.l
abbe0	69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72	ine.1000,.in.forward.....encoder
abc00	5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20	_outputs.=.self.encoder(...File.
abc20	22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f	"/home/hsiangnianian/gitproject/
abc40	62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f	base-model/.venv/lib/python3.10/
abc60	73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c	site-packages/transformers/model
abc80	73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36	s/bert/modeling_bert.py",.line.6
abca0	35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73	50,.in.forward.....layer_outputs
abcc0	20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	.=.layer_module(...File."/home/h
abce0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
abd00	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
abd20	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
abd40	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66	odeling_bert.py",.line.588,.in.f
abd60	6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f	orward.....layer_output.=.apply_
abd80	63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f	chunking_to_forward(...File."/ho
abda0	6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65	me/hsiangnianian/gitproject/base
abdc0	2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65	-model/.venv/lib/python3.10/site
abde0	2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65	-packages/transformers/models/be
abe00	72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20	rt/modeling_bert.py",.line.513,.
abe20	69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73	in.forward.....hidden_states.=.s
abe40	65 6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73	elf.intermediate_act_fn(hidden_s
abe60	74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	tates)...File."/home/hsiangniani
abe80	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
abea0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
abec0	73 66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38	sformers/activations.py",.line.8
abee0	35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63	5,.in.forward.....return.self.ac
abf00	74 28 69 6e 70 75 74 29 0a dc 12 0a 09 6c 69 6e 65 61 72 5f 33 34 0a 07 76 61 6c 5f 35 30 32 12	t(input).....linear_34..val_502.
abf20	06 67 65 6c 75 5f 35 1a 0b 6e 6f 64 65 5f 67 65 6c 75 5f 35 22 03 4d 75 6c 4a e4 03 0a 09 6e 61	.gelu_5..node_gelu_5".MulJ....na
abf40	6d 65 73 70 61 63 65 12 d6 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
abf60	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
abf80	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73	lassification/bert:.transformers
abfa0	2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d	.models.bert.modeling_bert.BertM
abfc0	6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e	odel/bert.encoder:.transformers.
abfe0	6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e	models.bert.modeling_bert.BertEn
ac000	63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e	coder/bert.encoder.layer.5:.tran
ac020	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
ac040	72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	rt.BertLayer/bert.encoder.layer.
ac060	35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	5.intermediate:.transformers.mod
ac080	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72	els.bert.modeling_bert.BertInter
ac0a0	6d 65 64 69 61 74 65 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74	mediate/bert.encoder.layer.5.int
ac0c0	65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 3a 20 74	ermediate.intermediate_act_fn:.t
ac0e0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47 45 4c 55 41 63 74 69	ransformers.activations.GELUActi
ac100	76 61 74 69 6f 6e 2f 67 65 6c 75 5f 35 3a 20 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75 6c 74	vation/gelu_5:.aten.gelu.default
ac120	4a 81 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
ac140	63 68 79 12 de 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
ac160	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
ac180	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
ac1a0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
ac1c0	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
ac1e0	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
ac200	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
ac220	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
ac240	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 49 6e 74 65 72 6d 65 64 69 61	ert.modeling_bert.BertIntermedia
ac260	74 65 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 61 63 74 69 76 61 74 69 6f 6e 73 2e 47	te',.'transformers.activations.G
ac280	45 4c 55 41 63 74 69 76 61 74 69 6f 6e 27 2c 20 27 61 74 65 6e 2e 67 65 6c 75 2e 64 65 66 61 75	ELUActivation',.'aten.gelu.defau
ac2a0	6c 74 27 5d 4a 88 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12	lt']J....pkg.torch.onnx.fx_node.
ac2c0	6e 25 67 65 6c 75 5f 35 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f	n%gelu_5.:.[num_users=1].=.call_
ac2e0	66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 67	function[target=torch.ops.aten.g
ac300	65 6c 75 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 6c 69 6e 65 61 72 5f 33 34 2c	elu.default](args.=.(%linear_34,
ac320	29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a bb 01 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	),.kwargs.=.{})J....pkg.torch.on
ac340	6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 9c 01 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62	nx.name_scopes...['',.'bert',.'b
ac360	65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	ert.encoder',.'bert.encoder.laye
ac380	72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65	r.5',.'bert.encoder.layer.5.inte
ac3a0	72 6d 65 64 69 61 74 65 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	rmediate',.'bert.encoder.layer.5
ac3c0	2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66	.intermediate.intermediate_act_f
ac3e0	6e 27 2c 20 27 67 65 6c 75 5f 35 27 5d 4a f7 08 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	n',.'gelu_5']J....pkg.torch.onnx
ac400	2e 73 74 61 63 6b 5f 74 72 61 63 65 12 d8 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e	.stack_trace...File."/home/hsian
ac420	67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e	gnianian/gitproject/base-model/.
ac440	76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65	venv/lib/python3.10/site-package
ac460	73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c	s/transformers/models/bert/model
ac480	69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77	ing_bert.py",.line.1676,.in.forw
ac4a0	61 72 64 0a 20 20 20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46	ard.....outputs.=.self.bert(...F
ac4c0	69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a	ile."/home/hsiangnianian/gitproj
ac4e0	65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33	ect/base-model/.venv/lib/python3
ac500	2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d	.10/site-packages/transformers/m
ac520	6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69	odels/bert/modeling_bert.py",.li
ac540	6e 65 20 31 30 30 30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f	ne.1000,.in.forward.....encoder_
ac560	6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22	outputs.=.self.encoder(...File."
ac580	2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62	/home/hsiangnianian/gitproject/b
ac5a0	61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73	ase-model/.venv/lib/python3.10/s
ac5c0	69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73	ite-packages/transformers/models
ac5e0	2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35	/bert/modeling_bert.py",.line.65
ac600	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20	0,.in.forward.....layer_outputs.
ac620	3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	=.layer_module(...File."/home/hs
ac640	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
ac660	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
ac680	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
ac6a0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f	deling_bert.py",.line.588,.in.fo
ac6c0	72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63	rward.....layer_output.=.apply_c
ac6e0	68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d	hunking_to_forward(...File."/hom
ac700	65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d	e/hsiangnianian/gitproject/base-
ac720	6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d	model/.venv/lib/python3.10/site-
ac740	70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72	packages/transformers/models/ber
ac760	74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 31 33 2c 20 69	t/modeling_bert.py",.line.513,.i
ac780	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65	n.forward.....hidden_states.=.se
ac7a0	6c 66 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 61 63 74 5f 66 6e 28 68 69 64 64 65 6e 5f 73 74	lf.intermediate_act_fn(hidden_st
ac7c0	61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	ates)...File."/home/hsiangniania
ac7e0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
ac800	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
ac820	66 6f 72 6d 65 72 73 2f 61 63 74 69 76 61 74 69 6f 6e 73 2e 70 79 22 2c 20 6c 69 6e 65 20 38 35	formers/activations.py",.line.85
ac840	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 73 65 6c 66 2e 61 63 74	,.in.forward.....return.self.act
ac860	28 69 6e 70 75 74 29 0a fd 12 0a 06 67 65 6c 75 5f 35 0a 07 76 61 6c 5f 35 30 33 12 07 76 61 6c	(input).....gelu_5..val_503..val
ac880	5f 35 30 34 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 38 30 22 06 4d 61 74 4d 75 6c 4a c0 03	_504..node_MatMul_480".MatMulJ..
ac8a0	0a 09 6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	..namespace...:.transformers.mod
ac8c0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f	els.bert.modeling_bert.BertForTo
ac8e0	6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72	kenClassification/bert:.transfor
ac900	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
ac920	65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d	ertModel/bert.encoder:.transform
ac940	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
ac960	72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20	rtEncoder/bert.encoder.layer.5:.
ac980	74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e	transformers.models.bert.modelin
ac9a0	67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	g_bert.BertLayer/bert.encoder.la
ac9c0	79 65 72 2e 35 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	yer.5.output:.transformers.model
ac9e0	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f	s.bert.modeling_bert.BertOutput/
aca00	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73	bert.encoder.layer.5.output.dens
aca20	65 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	e:.torch.nn.modules.linear.Linea
aca40	72 2f 6c 69 6e 65 61 72 5f 33 35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74	r/linear_35:.aten.linear.default
aca60	4a f4 02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72	J....pkg.torch.onnx.class_hierar
aca80	63 68 79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74	chy...['transformers.models.bert
acaa0	2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73	.modeling_bert.BertForTokenClass
acac0	69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	ification',.'transformers.models
acae0	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20	.bert.modeling_bert.BertModel',.
acb00	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
acb20	6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d	ng_bert.BertEncoder',.'transform
acb40	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
acb60	72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	rtLayer',.'transformers.models.b
acb80	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27	ert.modeling_bert.BertOutput',.'
acba0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c	torch.nn.modules.linear.Linear',
acbc0	20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e	.'aten.linear.default']J....pkg.
acbe0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 33 35 20	torch.onnx.fx_node...%linear_35.
acc00	3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b	:.[num_users=1].=.call_function[
acc20	74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66	target=torch.ops.aten.linear.def
acc40	61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 35 2c 20 25 70 5f 62 65 72 74 5f 65	ault](args.=.(%gelu_5,.%p_bert_e
acc60	6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67	ncoder_layer_5_output_dense_weig
acc80	68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70	ht,.%p_bert_encoder_layer_5_outp
acca0	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a	ut_dense_bias),.kwargs.=.{})J...
accc0	1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27	.pkg.torch.onnx.name_scopes...['
acce0	27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74	',.'bert',.'bert.encoder',.'bert
acd00	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	.encoder.layer.5',.'bert.encoder
acd20	2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.layer.5.output',.'bert.encoder.
acd40	6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33	layer.5.output.dense',.'linear_3
acd60	35 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61	5']J....pkg.torch.onnx.stack_tra
acd80	63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	ce...File."/home/hsiangnianian/g
acda0	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
acdc0	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
acde0	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
ace00	79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75	y",.line.1676,.in.forward.....ou
ace20	74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65	tputs.=.self.bert(...File."/home
ace40	2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d	/hsiangnianian/gitproject/base-m
ace60	6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70	odel/.venv/lib/python3.10/site-p
ace80	61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74	ackages/transformers/models/bert
acea0	2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69	/modeling_bert.py",.line.1000,.i
acec0	6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20	n.forward.....encoder_outputs.=.
acee0	73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	self.encoder(...File."/home/hsia
acf00	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
acf20	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
acf40	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
acf60	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.650,.in.forw
acf80	61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f	ard.....layer_outputs.=.layer_mo
acfa0	64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	dule(...File."/home/hsiangniania
acfc0	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
acfe0	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73	b/python3.10/site-packages/trans
ad000	66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers/models/bert/modeling_ber
ad020	74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20	t.py",.line.588,.in.forward.....
ad040	6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f	layer_output.=.apply_chunking_to
ad060	5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	_forward(...File."/home/hsiangni
ad080	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
ad0a0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
ad0c0	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
ad0e0	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.525,.in.forward.
ad100	20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68	....hidden_states.=.self.dense(h
ad120	69 64 64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	idden_states)...File."/home/hsia
ad140	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
ad160	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
ad180	65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20	es/torch/nn/modules/linear.py",.
ad1a0	6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20	line.134,.in.forward.....return.
ad1c0	46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c	F.linear(input,.self.weight,.sel
ad1e0	66 2e 62 69 61 73 29 0a 9b 13 0a 07 76 61 6c 5f 35 30 34 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65	f.bias).....val_504.&bert.encode
ad200	72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 09 6c 69 6e	r.layer.5.output.dense.bias..lin
ad220	65 61 72 5f 33 35 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 35 22 03 41 64 64 4a c0 03 0a 09	ear_35..node_linear_35".AddJ....
ad240	6e 61 6d 65 73 70 61 63 65 12 b2 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c	namespace...:.transformers.model
ad260	73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65	s.bert.modeling_bert.BertForToke
ad280	6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65	nClassification/bert:.transforme
ad2a0	72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72	rs.models.bert.modeling_bert.Ber
ad2c0	74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72	tModel/bert.encoder:.transformer
ad2e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
ad300	45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72	Encoder/bert.encoder.layer.5:.tr
ad320	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
ad340	62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	bert.BertLayer/bert.encoder.laye
ad360	72 2e 35 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	r.5.output:.transformers.models.
ad380	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65	bert.modeling_bert.BertOutput/be
ad3a0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 3a	rt.encoder.layer.5.output.dense:
ad3c0	20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f	.torch.nn.modules.linear.Linear/
ad3e0	6c 69 6e 65 61 72 5f 33 35 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a f4	linear_35:.aten.linear.defaultJ.
ad400	02 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68	...pkg.torch.onnx.class_hierarch
ad420	79 12 d1 02 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	y...['transformers.models.bert.m
ad440	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66	odeling_bert.BertForTokenClassif
ad460	69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62	ication',.'transformers.models.b
ad480	65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74	ert.modeling_bert.BertModel',.'t
ad4a0	72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67	ransformers.models.bert.modeling
ad4c0	5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72	_bert.BertEncoder',.'transformer
ad4e0	73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74	s.models.bert.modeling_bert.Bert
ad500	4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	Layer',.'transformers.models.ber
ad520	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f	t.modeling_bert.BertOutput',.'to
ad540	72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27	rch.nn.modules.linear.Linear',.'
ad560	61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a e2 01 0a 16 70 6b 67 2e 74 6f	aten.linear.default']J....pkg.to
ad580	72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 c7 01 25 6c 69 6e 65 61 72 5f 33 35 20 3a 20	rch.onnx.fx_node...%linear_35.:.
ad5a0	5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61	[num_users=1].=.call_function[ta
ad5c0	72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75	rget=torch.ops.aten.linear.defau
ad5e0	6c 74 5d 28 61 72 67 73 20 3d 20 28 25 67 65 6c 75 5f 35 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	lt](args.=.(%gelu_5,.%p_bert_enc
ad600	6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74	oder_layer_5_output_dense_weight
ad620	2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74	,.%p_bert_encoder_layer_5_output
ad640	5f 64 65 6e 73 65 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a a4 01 0a 1a 70	_dense_bias),.kwargs.=.{})J....p
ad660	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 85 01 5b 27 27 2c	kg.torch.onnx.name_scopes...['',
ad680	20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65	.'bert',.'bert.encoder',.'bert.e
ad6a0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ncoder.layer.5',.'bert.encoder.l
ad6c0	61 79 65 72 2e 35 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	ayer.5.output',.'bert.encoder.la
ad6e0	79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 27 2c 20 27 6c 69 6e 65 61 72 5f 33 35 27	yer.5.output.dense',.'linear_35'
ad700	5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
ad720	12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
ad740	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
ad760	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
ad780	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
ad7a0	2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70	,.line.1676,.in.forward.....outp
ad7c0	75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68	uts.=.self.bert(...File."/home/h
ad7e0	73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64	siangnianian/gitproject/base-mod
ad800	65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63	el/.venv/lib/python3.10/site-pac
ad820	6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d	kages/transformers/models/bert/m
ad840	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20	odeling_bert.py",.line.1000,.in.
ad860	66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65	forward.....encoder_outputs.=.se
ad880	6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	lf.encoder(...File."/home/hsiang
ad8a0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
ad8c0	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
ad8e0	2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69	/transformers/models/bert/modeli
ad900	6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72	ng_bert.py",.line.650,.in.forwar
ad920	64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75	d.....layer_outputs.=.layer_modu
ad940	6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f	le(...File."/home/hsiangnianian/
ad960	67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f	gitproject/base-model/.venv/lib/
ad980	70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f	python3.10/site-packages/transfo
ad9a0	72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers/models/bert/modeling_bert.
ad9c0	70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61	py",.line.588,.in.forward.....la
ad9e0	79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66	yer_output.=.apply_chunking_to_f
ada00	6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e	orward(...File."/home/hsiangnian
ada20	69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f	ian/gitproject/base-model/.venv/
ada40	6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61	lib/python3.10/site-packages/tra
ada60	6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62	nsformers/models/bert/modeling_b
ada80	65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 35 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ert.py",.line.525,.in.forward...
adaa0	20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 64 65 6e 73 65 28 68 69 64	..hidden_states.=.self.dense(hid
adac0	64 65 6e 5f 73 74 61 74 65 73 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67	den_states)...File."/home/hsiang
adae0	6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76	nianian/gitproject/base-model/.v
adb00	65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73	env/lib/python3.10/site-packages
adb20	2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69	/torch/nn/modules/linear.py",.li
adb40	6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e	ne.134,.in.forward.....return.F.
adb60	6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e	linear(input,.self.weight,.self.
adb80	62 69 61 73 29 0a f5 0f 0a 09 6c 69 6e 65 61 72 5f 33 35 0a 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f	bias).....linear_35..layer_norm_
adba0	31 31 12 07 61 64 64 5f 35 30 37 1a 0c 6e 6f 64 65 5f 61 64 64 5f 35 30 37 22 03 41 64 64 4a f8	11..add_507..node_add_507".AddJ.
adbc0	02 0a 09 6e 61 6d 65 73 70 61 63 65 12 ea 02 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	...namespace...:.transformers.mo
adbe0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54	dels.bert.modeling_bert.BertForT
adc00	6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f	okenClassification/bert:.transfo
adc20	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
adc40	42 65 72 74 4d 6f 64 65 6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72	BertModel/bert.encoder:.transfor
adc60	6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42	mers.models.bert.modeling_bert.B
adc80	65 72 74 45 6e 63 6f 64 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a	ertEncoder/bert.encoder.layer.5:
adca0	20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	.transformers.models.bert.modeli
adcc0	6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	ng_bert.BertLayer/bert.encoder.l
adce0	61 79 65 72 2e 35 2e 6f 75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65	ayer.5.output:.transformers.mode
add00	6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74	ls.bert.modeling_bert.BertOutput
add20	2f 61 64 64 5f 35 30 37 3a 20 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 4a ce 02 0a 1e 70 6b	/add_507:.aten.add.TensorJ....pk
add40	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 ab 02 5b	g.torch.onnx.class_hierarchy...[
add60	27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69	'transformers.models.bert.modeli
add80	6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69	ng_bert.BertForTokenClassificati
adda0	6f 6e 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	on',.'transformers.models.bert.m
addc0	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertModel',.'transf
adde0	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
ade00	2e 42 65 72 74 45 6e 63 6f 64 65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	.BertEncoder',.'transformers.mod
ade20	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72	els.bert.modeling_bert.BertLayer
ade40	27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64	',.'transformers.models.bert.mod
ade60	65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 61 74 65 6e 2e 61 64	eling_bert.BertOutput',.'aten.ad
ade80	64 2e 54 65 6e 73 6f 72 27 5d 4a 95 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78	d.Tensor']J....pkg.torch.onnx.fx
adea0	5f 6e 6f 64 65 12 7b 25 61 64 64 5f 35 30 37 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20	_node.{%add_507.:.[num_users=1].
adec0	3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73	=.call_function[target=torch.ops
adee0	2e 61 74 65 6e 2e 61 64 64 2e 54 65 6e 73 6f 72 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65	.aten.add.Tensor](args.=.(%clone
adf00	5f 31 33 2c 20 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	_13,.%layer_norm_11),.kwargs.=.{
adf20	7d 29 4a 7c 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	})J|..pkg.torch.onnx.name_scopes
adf40	12 5e 5b 27 27 2c 20 27 62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27	.^['',.'bert',.'bert.encoder',.'
adf60	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert.encoder.layer.5',.'bert.enc
adf80	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 27 2c 20 27 61 64 64 5f 35 30 37 27 5d	oder.layer.5.output',.'add_507']
adfa0	4a da 07 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12	J....pkg.torch.onnx.stack_trace.
adfc0	bb 07 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70	..File."/home/hsiangnianian/gitp
adfe0	72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68	roject/base-model/.venv/lib/pyth
ae000	6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72	on3.10/site-packages/transformer
ae020	73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c	s/models/bert/modeling_bert.py",
ae040	20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6f 75 74 70 75	.line.1676,.in.forward.....outpu
ae060	74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73	ts.=.self.bert(...File."/home/hs
ae080	69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65	iangnianian/gitproject/base-mode
ae0a0	6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b	l/.venv/lib/python3.10/site-pack
ae0c0	61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f	ages/transformers/models/bert/mo
ae0e0	64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30 30 2c 20 69 6e 20 66	deling_bert.py",.line.1000,.in.f
ae100	6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 73 65 6c	orward.....encoder_outputs.=.sel
ae120	66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e	f.encoder(...File."/home/hsiangn
ae140	69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65	ianian/gitproject/base-model/.ve
ae160	6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f	nv/lib/python3.10/site-packages/
ae180	74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e	transformers/models/bert/modelin
ae1a0	67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20 66 6f 72 77 61 72 64	g_bert.py",.line.650,.in.forward
ae1c0	0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65 72 5f 6d 6f 64 75 6c	.....layer_outputs.=.layer_modul
ae1e0	65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67	e(...File."/home/hsiangnianian/g
ae200	69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70	itproject/base-model/.venv/lib/p
ae220	79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72	ython3.10/site-packages/transfor
ae240	6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70	mers/models/bert/modeling_bert.p
ae260	79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79	y",.line.588,.in.forward.....lay
ae280	65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e 67 5f 74 6f 5f 66 6f	er_output.=.apply_chunking_to_fo
ae2a0	72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	rward(...File."/home/hsiangniani
ae2c0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
ae2e0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
ae300	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
ae320	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20	rt.py",.line.527,.in.forward....
ae340	20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79 65 72 4e 6f 72 6d 28	.hidden_states.=.self.LayerNorm(
ae360	68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e 73 6f 72 29 0a eb 14	hidden_states.+.input_tensor)...
ae380	0a 07 61 64 64 5f 35 30 37 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e	..add_507.,bert.encoder.layer.5.
ae3a0	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 0a 2a 62 65 72 74 2e 65 6e	output.LayerNorm.weight.*bert.en
ae3c0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62	coder.layer.5.output.LayerNorm.b
ae3e0	69 61 73 12 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 32 1a 12 6e 6f 64 65 5f 6c 61 79 65 72 5f 6e	ias..layer_norm_12..node_layer_n
ae400	6f 72 6d 5f 31 32 22 12 4c 61 79 65 72 4e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2a 11 0a 0a 73 74	orm_12".LayerNormalization*...st
ae420	61 73 68 5f 74 79 70 65 18 01 a0 01 02 2a 11 0a 07 65 70 73 69 6c 6f 6e 15 cc bc 8c 2b a0 01 01	ash_type.....*...epsilon....+...
ae440	2a 14 0a 04 61 78 69 73 18 ff ff ff ff ff ff ff ff ff 01 a0 01 02 4a d6 03 0a 09 6e 61 6d 65 73	*...axis..............J....names
ae460	70 61 63 65 12 c8 03 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72	pace...:.transformers.models.ber
ae480	74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73	t.modeling_bert.BertForTokenClas
ae4a0	73 69 66 69 63 61 74 69 6f 6e 2f 62 65 72 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f	sification/bert:.transformers.mo
ae4c0	64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4d 6f 64 65	dels.bert.modeling_bert.BertMode
ae4e0	6c 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	l/bert.encoder:.transformers.mod
ae500	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
ae520	65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 3a 20 74 72 61 6e 73 66 6f	er/bert.encoder.layer.5:.transfo
ae540	72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e	rmers.models.bert.modeling_bert.
ae560	42 65 72 74 4c 61 79 65 72 2f 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f	BertLayer/bert.encoder.layer.5.o
ae580	75 74 70 75 74 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e	utput:.transformers.models.bert.
ae5a0	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4f 75 74 70 75 74 2f 62 65 72 74 2e 65 6e	modeling_bert.BertOutput/bert.en
ae5c0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 3a 20	coder.layer.5.output.LayerNorm:.
ae5e0	74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c	torch.nn.modules.normalization.L
ae600	61 79 65 72 4e 6f 72 6d 2f 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 32 3a 20 61 74 65 6e 2e 6c 61 79	ayerNorm/layer_norm_12:.aten.lay
ae620	65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 4a 82 03 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	er_norm.defaultJ....pkg.torch.on
ae640	6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 df 02 5b 27 74 72 61 6e 73 66 6f 72 6d	nx.class_hierarchy...['transform
ae660	65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65	ers.models.bert.modeling_bert.Be
ae680	72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 72 61 6e	rtForTokenClassification',.'tran
ae6a0	73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers.models.bert.modeling_be
ae6c0	72 74 2e 42 65 72 74 4d 6f 64 65 6c 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64	rt.BertModel',.'transformers.mod
ae6e0	65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 45 6e 63 6f 64	els.bert.modeling_bert.BertEncod
ae700	65 72 27 2c 20 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d	er',.'transformers.models.bert.m
ae720	6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 4c 61 79 65 72 27 2c 20 27 74 72 61 6e 73 66	odeling_bert.BertLayer',.'transf
ae740	6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74	ormers.models.bert.modeling_bert
ae760	2e 42 65 72 74 4f 75 74 70 75 74 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e	.BertOutput',.'torch.nn.modules.
ae780	6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 61 74 65 6e 2e	normalization.LayerNorm',.'aten.
ae7a0	6c 61 79 65 72 5f 6e 6f 72 6d 2e 64 65 66 61 75 6c 74 27 5d 4a 81 02 0a 16 70 6b 67 2e 74 6f 72	layer_norm.default']J....pkg.tor
ae7c0	63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 e6 01 25 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 32	ch.onnx.fx_node...%layer_norm_12
ae7e0	20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e	.:.[num_users=1].=.call_function
ae800	5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 61 79 65 72 5f 6e 6f 72	[target=torch.ops.aten.layer_nor
ae820	6d 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 61 64 64 5f 35 30 37 2c 20 5b 32 35	m.default](args.=.(%add_507,.[25
ae840	36 5d 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70	6],.%p_bert_encoder_layer_5_outp
ae860	75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 2c 20 25 70 5f 62 65 72 74 5f 65 6e 63	ut_layernorm_weight,.%p_bert_enc
ae880	6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69	oder_layer_5_output_layernorm_bi
ae8a0	61 73 2c 20 31 65 2d 31 32 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a ac 01 0a 1a 70 6b 67	as,.1e-12),.kwargs.=.{})J....pkg
ae8c0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 8d 01 5b 27 27 2c 20 27	.torch.onnx.name_scopes...['',.'
ae8e0	62 65 72 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 27 2c 20 27 62 65 72 74 2e 65 6e 63	bert',.'bert.encoder',.'bert.enc
ae900	6f 64 65 72 2e 6c 61 79 65 72 2e 35 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	oder.layer.5',.'bert.encoder.lay
ae920	65 72 2e 35 2e 6f 75 74 70 75 74 27 2c 20 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	er.5.output',.'bert.encoder.laye
ae940	72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 27 2c 20 27 6c 61 79 65 72 5f 6e 6f	r.5.output.LayerNorm',.'layer_no
ae960	72 6d 5f 31 32 27 5d 4a 81 09 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b	rm_12']J....pkg.torch.onnx.stack
ae980	5f 74 72 61 63 65 12 e2 08 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69	_trace...File."/home/hsiangniani
ae9a0	61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c	an/gitproject/base-model/.venv/l
ae9c0	69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e	ib/python3.10/site-packages/tran
ae9e0	73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65	sformers/models/bert/modeling_be
aea00	72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 37 36 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	rt.py",.line.1676,.in.forward...
aea20	20 20 6f 75 74 70 75 74 73 20 3d 20 73 65 6c 66 2e 62 65 72 74 28 0a 20 20 46 69 6c 65 20 22 2f	..outputs.=.self.bert(...File."/
aea40	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
aea60	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
aea80	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f	te-packages/transformers/models/
aeaa0	62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 30 30	bert/modeling_bert.py",.line.100
aeac0	30 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 65 6e 63 6f 64 65 72 5f 6f 75 74 70 75 74	0,.in.forward.....encoder_output
aeae0	73 20 3d 20 73 65 6c 66 2e 65 6e 63 6f 64 65 72 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	s.=.self.encoder(...File."/home/
aeb00	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
aeb20	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
aeb40	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
aeb60	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 36 35 30 2c 20 69 6e 20	modeling_bert.py",.line.650,.in.
aeb80	66 6f 72 77 61 72 64 0a 20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 73 20 3d 20 6c 61 79 65	forward.....layer_outputs.=.laye
aeba0	72 5f 6d 6f 64 75 6c 65 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69	r_module(...File."/home/hsiangni
aebc0	61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e	anian/gitproject/base-model/.ven
aebe0	76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74	v/lib/python3.10/site-packages/t
aec00	72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67	ransformers/models/bert/modeling
aec20	5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 38 38 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a	_bert.py",.line.588,.in.forward.
aec40	20 20 20 20 6c 61 79 65 72 5f 6f 75 74 70 75 74 20 3d 20 61 70 70 6c 79 5f 63 68 75 6e 6b 69 6e	....layer_output.=.apply_chunkin
aec60	67 5f 74 6f 5f 66 6f 72 77 61 72 64 28 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61	g_to_forward(...File."/home/hsia
aec80	6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f	ngnianian/gitproject/base-model/
aeca0	2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67	.venv/lib/python3.10/site-packag
aecc0	65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65	es/transformers/models/bert/mode
aece0	6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 35 32 37 2c 20 69 6e 20 66 6f 72 77	ling_bert.py",.line.527,.in.forw
aed00	61 72 64 0a 20 20 20 20 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 3d 20 73 65 6c 66 2e 4c 61 79	ard.....hidden_states.=.self.Lay
aed20	65 72 4e 6f 72 6d 28 68 69 64 64 65 6e 5f 73 74 61 74 65 73 20 2b 20 69 6e 70 75 74 5f 74 65 6e	erNorm(hidden_states.+.input_ten
aed40	73 6f 72 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e	sor)...File."/home/hsiangnianian
aed60	2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62	/gitproject/base-model/.venv/lib
aed80	2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f	/python3.10/site-packages/torch/
aeda0	6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6e 6f 72 6d 61 6c 69 7a 61 74 69 6f 6e 2e 70 79 22 2c 20 6c 69	nn/modules/normalization.py",.li
aedc0	6e 65 20 32 32 39 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e	ne.229,.in.forward.....return.F.
aede0	6c 61 79 65 72 5f 6e 6f 72 6d 28 0a 91 08 0a 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 32 0a 07 76	layer_norm(.....layer_norm_12..v
aee00	61 6c 5f 35 30 37 12 07 76 61 6c 5f 35 30 38 1a 0f 6e 6f 64 65 5f 4d 61 74 4d 75 6c 5f 34 38 32	al_507..val_508..node_MatMul_482
aee20	22 06 4d 61 74 4d 75 6c 4a 9b 01 0a 09 6e 61 6d 65 73 70 61 63 65 12 8d 01 3a 20 74 72 61 6e 73	".MatMulJ....namespace...:.trans
aee40	66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72	formers.models.bert.modeling_ber
aee60	74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 63 6c 61	t.BertForTokenClassification/cla
aee80	73 73 69 66 69 65 72 3a 20 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72	ssifier:.torch.nn.modules.linear
aeea0	2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f 33 36 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64	.Linear/linear_36:.aten.linear.d
aeec0	65 66 61 75 6c 74 4a a0 01 0a 1e 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f	efaultJ....pkg.torch.onnx.class_
aeee0	68 69 65 72 61 72 63 68 79 12 7e 5b 27 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73	hierarchy.~['transformers.models
aef00	2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e	.bert.modeling_bert.BertForToken
aef20	43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27 2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c	Classification',.'torch.nn.modul
aef40	65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	es.linear.Linear',.'aten.linear.
aef60	64 65 66 61 75 6c 74 27 5d 4a b6 01 0a 16 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f	default']J....pkg.torch.onnx.fx_
aef80	6e 6f 64 65 12 9b 01 25 6c 69 6e 65 61 72 5f 33 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31	node...%linear_36.:.[num_users=1
aefa0	5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69 6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f	].=.call_function[target=torch.o
aefc0	70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28	ps.aten.linear.default](args.=.(
aefe0	25 63 6c 6f 6e 65 5f 31 34 2c 20 25 70 5f 63 6c 61 73 73 69 66 69 65 72 5f 77 65 69 67 68 74 2c	%clone_14,.%p_classifier_weight,
af000	20 25 70 5f 63 6c 61 73 73 69 66 69 65 72 5f 62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b	.%p_classifier_bias),.kwargs.=.{
af020	7d 29 4a 3d 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73	})J=..pkg.torch.onnx.name_scopes
af040	12 1f 5b 27 27 2c 20 27 63 6c 61 73 73 69 66 69 65 72 27 2c 20 27 6c 69 6e 65 61 72 5f 33 36 27	..['',.'classifier',.'linear_36'
af060	5d 4a 9b 03 0a 1a 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65	]J....pkg.torch.onnx.stack_trace
af080	12 fc 02 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74	...File."/home/hsiangnianian/git
af0a0	70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74	project/base-model/.venv/lib/pyt
af0c0	68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65	hon3.10/site-packages/transforme
af0e0	72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22	rs/models/bert/modeling_bert.py"
af100	2c 20 6c 69 6e 65 20 31 36 39 31 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 6f 67 69	,.line.1691,.in.forward.....logi
af120	74 73 20 3d 20 73 65 6c 66 2e 63 6c 61 73 73 69 66 69 65 72 28 73 65 71 75 65 6e 63 65 5f 6f 75	ts.=.self.classifier(sequence_ou
af140	74 70 75 74 29 0a 20 20 46 69 6c 65 20 22 2f 68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61	tput)...File."/home/hsiangniania
af160	6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69	n/gitproject/base-model/.venv/li
af180	62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68	b/python3.10/site-packages/torch
af1a0	2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e 65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34	/nn/modules/linear.py",.line.134
af1c0	2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20 20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72	,.in.forward.....return.F.linear
af1e0	28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65 69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 0a	(input,.self.weight,.self.bias).
af200	8e 08 0a 07 76 61 6c 5f 35 30 38 0a 0f 63 6c 61 73 73 69 66 69 65 72 2e 62 69 61 73 12 06 6c 6f	....val_508..classifier.bias..lo
af220	67 69 74 73 1a 0e 6e 6f 64 65 5f 6c 69 6e 65 61 72 5f 33 36 22 03 41 64 64 4a 9b 01 0a 09 6e 61	gits..node_linear_36".AddJ....na
af240	6d 65 73 70 61 63 65 12 8d 01 3a 20 74 72 61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e	mespace...:.transformers.models.
af260	62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43	bert.modeling_bert.BertForTokenC
af280	6c 61 73 73 69 66 69 63 61 74 69 6f 6e 2f 63 6c 61 73 73 69 66 69 65 72 3a 20 74 6f 72 63 68 2e	lassification/classifier:.torch.
af2a0	6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61 72 2f 6c 69 6e 65 61 72 5f	nn.modules.linear.Linear/linear_
af2c0	33 36 3a 20 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 4a a0 01 0a 1e 70 6b 67 2e	36:.aten.linear.defaultJ....pkg.
af2e0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 63 6c 61 73 73 5f 68 69 65 72 61 72 63 68 79 12 7e 5b 27 74 72	torch.onnx.class_hierarchy.~['tr
af300	61 6e 73 66 6f 72 6d 65 72 73 2e 6d 6f 64 65 6c 73 2e 62 65 72 74 2e 6d 6f 64 65 6c 69 6e 67 5f	ansformers.models.bert.modeling_
af320	62 65 72 74 2e 42 65 72 74 46 6f 72 54 6f 6b 65 6e 43 6c 61 73 73 69 66 69 63 61 74 69 6f 6e 27	bert.BertForTokenClassification'
af340	2c 20 27 74 6f 72 63 68 2e 6e 6e 2e 6d 6f 64 75 6c 65 73 2e 6c 69 6e 65 61 72 2e 4c 69 6e 65 61	,.'torch.nn.modules.linear.Linea
af360	72 27 2c 20 27 61 74 65 6e 2e 6c 69 6e 65 61 72 2e 64 65 66 61 75 6c 74 27 5d 4a b6 01 0a 16 70	r',.'aten.linear.default']J....p
af380	6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 66 78 5f 6e 6f 64 65 12 9b 01 25 6c 69 6e 65 61 72 5f	kg.torch.onnx.fx_node...%linear_
af3a0	33 36 20 3a 20 5b 6e 75 6d 5f 75 73 65 72 73 3d 31 5d 20 3d 20 63 61 6c 6c 5f 66 75 6e 63 74 69	36.:.[num_users=1].=.call_functi
af3c0	6f 6e 5b 74 61 72 67 65 74 3d 74 6f 72 63 68 2e 6f 70 73 2e 61 74 65 6e 2e 6c 69 6e 65 61 72 2e	on[target=torch.ops.aten.linear.
af3e0	64 65 66 61 75 6c 74 5d 28 61 72 67 73 20 3d 20 28 25 63 6c 6f 6e 65 5f 31 34 2c 20 25 70 5f 63	default](args.=.(%clone_14,.%p_c
af400	6c 61 73 73 69 66 69 65 72 5f 77 65 69 67 68 74 2c 20 25 70 5f 63 6c 61 73 73 69 66 69 65 72 5f	lassifier_weight,.%p_classifier_
af420	62 69 61 73 29 2c 20 6b 77 61 72 67 73 20 3d 20 7b 7d 29 4a 3d 0a 1a 70 6b 67 2e 74 6f 72 63 68	bias),.kwargs.=.{})J=..pkg.torch
af440	2e 6f 6e 6e 78 2e 6e 61 6d 65 5f 73 63 6f 70 65 73 12 1f 5b 27 27 2c 20 27 63 6c 61 73 73 69 66	.onnx.name_scopes..['',.'classif
af460	69 65 72 27 2c 20 27 6c 69 6e 65 61 72 5f 33 36 27 5d 4a 9b 03 0a 1a 70 6b 67 2e 74 6f 72 63 68	ier',.'linear_36']J....pkg.torch
af480	2e 6f 6e 6e 78 2e 73 74 61 63 6b 5f 74 72 61 63 65 12 fc 02 46 69 6c 65 20 22 2f 68 6f 6d 65 2f	.onnx.stack_trace...File."/home/
af4a0	68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61 73 65 2d 6d 6f	hsiangnianian/gitproject/base-mo
af4c0	64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69 74 65 2d 70 61	del/.venv/lib/python3.10/site-pa
af4e0	63 6b 61 67 65 73 2f 74 72 61 6e 73 66 6f 72 6d 65 72 73 2f 6d 6f 64 65 6c 73 2f 62 65 72 74 2f	ckages/transformers/models/bert/
af500	6d 6f 64 65 6c 69 6e 67 5f 62 65 72 74 2e 70 79 22 2c 20 6c 69 6e 65 20 31 36 39 31 2c 20 69 6e	modeling_bert.py",.line.1691,.in
af520	20 66 6f 72 77 61 72 64 0a 20 20 20 20 6c 6f 67 69 74 73 20 3d 20 73 65 6c 66 2e 63 6c 61 73 73	.forward.....logits.=.self.class
af540	69 66 69 65 72 28 73 65 71 75 65 6e 63 65 5f 6f 75 74 70 75 74 29 0a 20 20 46 69 6c 65 20 22 2f	ifier(sequence_output)...File."/
af560	68 6f 6d 65 2f 68 73 69 61 6e 67 6e 69 61 6e 69 61 6e 2f 67 69 74 70 72 6f 6a 65 63 74 2f 62 61	home/hsiangnianian/gitproject/ba
af580	73 65 2d 6d 6f 64 65 6c 2f 2e 76 65 6e 76 2f 6c 69 62 2f 70 79 74 68 6f 6e 33 2e 31 30 2f 73 69	se-model/.venv/lib/python3.10/si
af5a0	74 65 2d 70 61 63 6b 61 67 65 73 2f 74 6f 72 63 68 2f 6e 6e 2f 6d 6f 64 75 6c 65 73 2f 6c 69 6e	te-packages/torch/nn/modules/lin
af5c0	65 61 72 2e 70 79 22 2c 20 6c 69 6e 65 20 31 33 34 2c 20 69 6e 20 66 6f 72 77 61 72 64 0a 20 20	ear.py",.line.134,.in.forward...
af5e0	20 20 72 65 74 75 72 6e 20 46 2e 6c 69 6e 65 61 72 28 69 6e 70 75 74 2c 20 73 65 6c 66 2e 77 65	..return.F.linear(input,.self.we
af600	69 67 68 74 2c 20 73 65 6c 66 2e 62 69 61 73 29 12 0a 6d 61 69 6e 5f 67 72 61 70 68 2a 78 08 88	ight,.self.bias)..main_graph*x..
af620	a5 01 08 80 02 10 01 42 26 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 77 6f 72 64 5f 65 6d	.......B&bert.embeddings.word_em
af640	62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64	beddings.weightj...location..mod
af660	65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 39 35 32 39 37 32 38	el.onnx.dataj...offset..19529728
af680	6a 12 0a 06 6c 65 6e 67 74 68 12 08 32 31 36 33 35 30 37 32 70 01 2a 78 08 80 04 08 80 02 10 01	j...length..21635072p.*x........
af6a0	42 2a 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64	B*bert.embeddings.position_embed
af6c0	64 69 6e 67 73 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e	dings.weightj...location..model.
af6e0	6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 36 33 39 34 38 38 30 6a 10 0a 06	onnx.dataj...offset..6394880j...
af700	6c 65 6e 67 74 68 12 06 35 32 34 32 38 38 70 01 2a 75 08 02 08 80 02 10 01 42 2c 62 65 72 74 2e	length..524288p.*u.......B,bert.
af720	65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73	embeddings.token_type_embeddings
af740	2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	.weightj...location..model.onnx.
af760	64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 35 37 33 34 34 6a 0e 0a 06 6c 65 6e 67 74 68 12	dataj...offset..57344j...length.
af780	04 32 30 34 38 70 01 2a 63 08 80 02 10 01 42 20 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e	.2048p.*c.....B.bert.embeddings.
af7a0	4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f	LayerNorm.weightj...location..mo
af7c0	64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0b 0a 06 6f 66 66 73 65 74 12 01 30 6a 0e 0a 06 6c 65	del.onnx.dataj...offset..0j...le
af7e0	6e 67 74 68 12 04 31 30 32 34 70 01 2a 64 08 80 02 10 01 42 1e 62 65 72 74 2e 65 6d 62 65 64 64	ngth..1024p.*d.....B.bert.embedd
af800	69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12	ings.LayerNorm.biasj...location.
af820	0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 31 30 32 34	.model.onnx.dataj...offset..1024
af840	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 74 08 80 02 10 01 42 2e 62 65 72 74 2e	j...length..1024p.*t.....B.bert.
af860	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71	encoder.layer.0.attention.self.q
af880	75 65 72 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	uery.biasj...location..model.onn
af8a0	78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 32 30 34 38 6a 0e 0a 06 6c 65 6e 67 74 68	x.dataj...offset..2048j...length
af8c0	12 04 31 30 32 34 70 01 2a 72 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	..1024p.*r.....B,bert.encoder.la
af8e0	79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 6a 1b 0a	yer.0.attention.self.key.biasj..
af900	08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0e 0a 06 6f 66	.location..model.onnx.dataj...of
af920	66 73 65 74 12 04 33 30 37 32 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 74 08 80	fset..3072j...length..1024p.*t..
af940	02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	...B.bert.encoder.layer.0.attent
af960	69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12	ion.self.value.biasj...location.
af980	0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 34 30 39 36	.model.onnx.dataj...offset..4096
af9a0	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 76 08 80 02 10 01 42 30 62 65 72 74 2e	j...length..1024p.*v.....B0bert.
af9c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.0.attention.output
af9e0	2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f	.dense.biasj...location..model.o
afa00	6e 6e 78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 35 31 32 30 6a 0e 0a 06 6c 65 6e 67	nnx.dataj...offset..5120j...leng
afa20	74 68 12 04 31 30 32 34 70 01 2a 7c 08 80 02 10 01 42 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	th..1024p.*|.....B6bert.encoder.
afa40	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f	layer.0.attention.output.LayerNo
afa60	72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	rm.weightj...location..model.onn
afa80	78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 36 31 34 34 6a 0e 0a 06 6c 65 6e 67 74 68	x.dataj...offset..6144j...length
afaa0	12 04 31 30 32 34 70 01 2a 7a 08 80 02 10 01 42 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61	..1024p.*z.....B4bert.encoder.la
afac0	79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d	yer.0.attention.output.LayerNorm
afae0	2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61	.biasj...location..model.onnx.da
afb00	74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 37 31 36 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30	taj...offset..7168j...length..10
afb20	32 34 70 01 2a 73 08 80 08 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	24p.*s.....B,bert.encoder.layer.
afb40	30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63	0.intermediate.dense.biasj...loc
afb60	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
afb80	12 05 35 39 33 39 32 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 34 30 39 36 70 01 2a 6c 08 80 02 10 01	..59392j...length..4096p.*l.....
afba0	42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65	B&bert.encoder.layer.0.output.de
afbc0	6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78	nse.biasj...location..model.onnx
afbe0	2e 64 61 74 61 6a 0e 0a 06 6f 66 66 73 65 74 12 04 38 31 39 32 6a 0e 0a 06 6c 65 6e 67 74 68 12	.dataj...offset..8192j...length.
afc00	04 31 30 32 34 70 01 2a 72 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.1024p.*r.....B,bert.encoder.lay
afc20	65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08	er.0.output.LayerNorm.weightj...
afc40	6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0e 0a 06 6f 66 66	location..model.onnx.dataj...off
afc60	73 65 74 12 04 39 32 31 36 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 71 08 80 02	set..9216j...length..1024p.*q...
afc80	10 01 42 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e	..B*bert.encoder.layer.0.output.
afca0	4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65	LayerNorm.biasj...location..mode
afcc0	6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 30 32 34 30 6a 0e 0a 06	l.onnx.dataj...offset..10240j...
afce0	6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f	length..1024p.*u.....B.bert.enco
afd00	64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79	der.layer.1.attention.self.query
afd20	2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61	.biasj...location..model.onnx.da
afd40	74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 31 32 36 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31	taj...offset..11264j...length..1
afd60	30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	024p.*s.....B,bert.encoder.layer
afd80	2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f	.1.attention.self.key.biasj...lo
afda0	63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65	cation..model.onnx.dataj...offse
afdc0	74 12 05 31 32 32 38 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10	t..12288j...length..1024p.*u....
afde0	01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f	.B.bert.encoder.layer.1.attentio
afe00	6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d	n.self.value.biasj...location..m
afe20	6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 33 33 31 32 6a	odel.onnx.dataj...offset..13312j
afe40	0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 77 08 80 02 10 01 42 30 62 65 72 74 2e 65	...length..1024p.*w.....B0bert.e
afe60	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e	ncoder.layer.1.attention.output.
afe80	64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e	dense.biasj...location..model.on
afea0	6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 34 33 33 36 6a 0e 0a 06 6c 65 6e 67	nx.dataj...offset..14336j...leng
afec0	74 68 12 04 31 30 32 34 70 01 2a 7d 08 80 02 10 01 42 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	th..1024p.*}.....B6bert.encoder.
afee0	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f	layer.1.attention.output.LayerNo
aff00	72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	rm.weightj...location..model.onn
aff20	78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 35 33 36 30 6a 0e 0a 06 6c 65 6e 67 74	x.dataj...offset..15360j...lengt
aff40	68 12 04 31 30 32 34 70 01 2a 7b 08 80 02 10 01 42 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	h..1024p.*{.....B4bert.encoder.l
aff60	61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72	ayer.1.attention.output.LayerNor
aff80	6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64	m.biasj...location..model.onnx.d
affa0	61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 36 33 38 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04	ataj...offset..16384j...length..
affc0	31 30 32 34 70 01 2a 73 08 80 08 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	1024p.*s.....B,bert.encoder.laye
affe0	72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c	r.1.intermediate.dense.biasj...l
b0000	6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73	ocation..model.onnx.dataj...offs
b0020	65 74 12 05 36 33 34 38 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 34 30 39 36 70 01 2a 6d 08 80 02	et..63488j...length..4096p.*m...
b0040	10 01 42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e	..B&bert.encoder.layer.1.output.
b0060	64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e	dense.biasj...location..model.on
b0080	6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 37 34 30 38 6a 0e 0a 06 6c 65 6e 67	nx.dataj...offset..17408j...leng
b00a0	74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	th..1024p.*s.....B,bert.encoder.
b00c0	6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a	layer.1.output.LayerNorm.weightj
b00e0	1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06	...location..model.onnx.dataj...
b0100	6f 66 66 73 65 74 12 05 31 38 34 33 32 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a	offset..18432j...length..1024p.*
b0120	71 08 80 02 10 01 42 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74	q.....B*bert.encoder.layer.1.out
b0140	70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f	put.LayerNorm.biasj...location..
b0160	6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 31 39 34 35 36	model.onnx.dataj...offset..19456
b0180	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10 01 42 2e 62 65 72 74 2e	j...length..1024p.*u.....B.bert.
b01a0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71	encoder.layer.2.attention.self.q
b01c0	75 65 72 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	uery.biasj...location..model.onn
b01e0	78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 30 34 38 30 6a 0e 0a 06 6c 65 6e 67 74	x.dataj...offset..20480j...lengt
b0200	68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	h..1024p.*s.....B,bert.encoder.l
b0220	61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 6a 1b	ayer.2.attention.self.key.biasj.
b0240	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f	..location..model.onnx.dataj...o
b0260	66 66 73 65 74 12 05 32 31 35 30 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75	ffset..21504j...length..1024p.*u
b0280	08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	.....B.bert.encoder.layer.2.atte
b02a0	6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f	ntion.self.value.biasj...locatio
b02c0	6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 32	n..model.onnx.dataj...offset..22
b02e0	35 32 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 77 08 80 02 10 01 42 30 62 65	528j...length..1024p.*w.....B0be
b0300	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.2.attention.out
b0320	70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65	put.dense.biasj...location..mode
b0340	6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 33 35 35 32 6a 0e 0a 06	l.onnx.dataj...offset..23552j...
b0360	6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7d 08 80 02 10 01 42 36 62 65 72 74 2e 65 6e 63 6f	length..1024p.*}.....B6bert.enco
b0380	64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79	der.layer.2.attention.output.Lay
b03a0	65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c	erNorm.weightj...location..model
b03c0	2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 34 35 37 36 6a 0e 0a 06 6c	.onnx.dataj...offset..24576j...l
b03e0	65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7b 08 80 02 10 01 42 34 62 65 72 74 2e 65 6e 63 6f 64	ength..1024p.*{.....B4bert.encod
b0400	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65	er.layer.2.attention.output.Laye
b0420	72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e	rNorm.biasj...location..model.on
b0440	6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 35 36 30 30 6a 0e 0a 06 6c 65 6e 67	nx.dataj...offset..25600j...leng
b0460	74 68 12 04 31 30 32 34 70 01 2a 73 08 80 08 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	th..1024p.*s.....B,bert.encoder.
b0480	6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 6a	layer.2.intermediate.dense.biasj
b04a0	1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06	...location..model.onnx.dataj...
b04c0	6f 66 66 73 65 74 12 05 36 37 35 38 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 34 30 39 36 70 01 2a	offset..67584j...length..4096p.*
b04e0	6d 08 80 02 10 01 42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74	m.....B&bert.encoder.layer.2.out
b0500	70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65	put.dense.biasj...location..mode
b0520	6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 36 36 32 34 6a 0e 0a 06	l.onnx.dataj...offset..26624j...
b0540	6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f	length..1024p.*s.....B,bert.enco
b0560	64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69	der.layer.2.output.LayerNorm.wei
b0580	67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61	ghtj...location..model.onnx.data
b05a0	6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 37 36 34 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32	j...offset..27648j...length..102
b05c0	34 70 01 2a 71 08 80 02 10 01 42 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	4p.*q.....B*bert.encoder.layer.2
b05e0	2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69	.output.LayerNorm.biasj...locati
b0600	6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32	on..model.onnx.dataj...offset..2
b0620	38 36 37 32 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10 01 42 2e 62	8672j...length..1024p.*u.....B.b
b0640	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
b0660	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c	lf.query.biasj...location..model
b0680	2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 32 39 36 39 36 6a 0e 0a 06 6c	.onnx.dataj...offset..29696j...l
b06a0	65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f 64	ength..1024p.*s.....B,bert.encod
b06c0	65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69	er.layer.3.attention.self.key.bi
b06e0	61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a	asj...location..model.onnx.dataj
b0700	0f 0a 06 6f 66 66 73 65 74 12 05 33 30 37 32 30 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34	...offset..30720j...length..1024
b0720	70 01 2a 75 08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e	p.*u.....B.bert.encoder.layer.3.
b0740	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63	attention.self.value.biasj...loc
b0760	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
b0780	12 05 33 31 37 34 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 77 08 80 02 10 01	..31744j...length..1024p.*w.....
b07a0	42 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e	B0bert.encoder.layer.3.attention
b07c0	2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f	.output.dense.biasj...location..
b07e0	6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 32 37 36 38	model.onnx.dataj...offset..32768
b0800	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7d 08 80 02 10 01 42 36 62 65 72 74 2e	j...length..1024p.*}.....B6bert.
b0820	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74	encoder.layer.3.attention.output
b0840	2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d	.LayerNorm.weightj...location..m
b0860	6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 33 37 39 32 6a	odel.onnx.dataj...offset..33792j
b0880	0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7b 08 80 02 10 01 42 34 62 65 72 74 2e 65	...length..1024p.*{.....B4bert.e
b08a0	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e	ncoder.layer.3.attention.output.
b08c0	4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65	LayerNorm.biasj...location..mode
b08e0	6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 34 38 31 36 6a 0e 0a 06	l.onnx.dataj...offset..34816j...
b0900	6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 08 10 01 42 2c 62 65 72 74 2e 65 6e 63 6f	length..1024p.*s.....B,bert.enco
b0920	64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62	der.layer.3.intermediate.dense.b
b0940	69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61	iasj...location..model.onnx.data
b0960	6a 0f 0a 06 6f 66 66 73 65 74 12 05 37 31 36 38 30 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 34 30 39	j...offset..71680j...length..409
b0980	36 70 01 2a 6d 08 80 02 10 01 42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	6p.*m.....B&bert.encoder.layer.3
b09a0	2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f	.output.dense.biasj...location..
b09c0	6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 35 38 34 30	model.onnx.dataj...offset..35840
b09e0	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e	j...length..1024p.*s.....B,bert.
b0a00	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d	encoder.layer.3.output.LayerNorm
b0a20	2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	.weightj...location..model.onnx.
b0a40	64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 36 38 36 34 6a 0e 0a 06 6c 65 6e 67 74 68 12	dataj...offset..36864j...length.
b0a60	04 31 30 32 34 70 01 2a 71 08 80 02 10 01 42 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.1024p.*q.....B*bert.encoder.lay
b0a80	65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f	er.3.output.LayerNorm.biasj...lo
b0aa0	63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65	cation..model.onnx.dataj...offse
b0ac0	74 12 05 33 37 38 38 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10	t..37888j...length..1024p.*u....
b0ae0	01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f	.B.bert.encoder.layer.4.attentio
b0b00	6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d	n.self.query.biasj...location..m
b0b20	6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 38 39 31 32 6a	odel.onnx.dataj...offset..38912j
b0b40	0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65 72 74 2e 65	...length..1024p.*s.....B,bert.e
b0b60	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65	ncoder.layer.4.attention.self.ke
b0b80	79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64	y.biasj...location..model.onnx.d
b0ba0	61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 33 39 39 33 36 6a 0e 0a 06 6c 65 6e 67 74 68 12 04	ataj...offset..39936j...length..
b0bc0	31 30 32 34 70 01 2a 75 08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	1024p.*u.....B.bert.encoder.laye
b0be0	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 6a 1b 0a	r.4.attention.self.value.biasj..
b0c00	08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66	.location..model.onnx.dataj...of
b0c20	66 73 65 74 12 05 34 30 39 36 30 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 77 08	fset..40960j...length..1024p.*w.
b0c40	80 02 10 01 42 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	....B0bert.encoder.layer.4.atten
b0c60	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69	tion.output.dense.biasj...locati
b0c80	6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34	on..model.onnx.dataj...offset..4
b0ca0	31 39 38 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7d 08 80 02 10 01 42 36 62	1984j...length..1024p.*}.....B6b
b0cc0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.4.attention.ou
b0ce0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f	tput.LayerNorm.weightj...locatio
b0d00	6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34 33	n..model.onnx.dataj...offset..43
b0d20	30 30 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7b 08 80 02 10 01 42 34 62 65	008j...length..1024p.*{.....B4be
b0d40	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.4.attention.out
b0d60	70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f	put.LayerNorm.biasj...location..
b0d80	6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34 34 30 33 32	model.onnx.dataj...offset..44032
b0da0	6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 08 10 01 42 2c 62 65 72 74 2e	j...length..1024p.*s.....B,bert.
b0dc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.4.intermediate.den
b0de0	73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	se.biasj...location..model.onnx.
b0e00	64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 37 35 37 37 36 6a 0e 0a 06 6c 65 6e 67 74 68 12	dataj...offset..75776j...length.
b0e20	04 34 30 39 36 70 01 2a 6d 08 80 02 10 01 42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	.4096p.*m.....B&bert.encoder.lay
b0e40	65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69	er.4.output.dense.biasj...locati
b0e60	6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34	on..model.onnx.dataj...offset..4
b0e80	35 30 35 36 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62	5056j...length..1024p.*s.....B,b
b0ea0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72	ert.encoder.layer.4.output.Layer
b0ec0	4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f	Norm.weightj...location..model.o
b0ee0	6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34 36 30 38 30 6a 0e 0a 06 6c 65 6e	nnx.dataj...offset..46080j...len
b0f00	67 74 68 12 04 31 30 32 34 70 01 2a 71 08 80 02 10 01 42 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72	gth..1024p.*q.....B*bert.encoder
b0f20	2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b	.layer.4.output.LayerNorm.biasj.
b0f40	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f	..location..model.onnx.dataj...o
b0f60	66 66 73 65 74 12 05 34 37 31 30 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 75	ffset..47104j...length..1024p.*u
b0f80	08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	.....B.bert.encoder.layer.5.atte
b0fa0	6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f	ntion.self.query.biasj...locatio
b0fc0	6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34 38	n..model.onnx.dataj...offset..48
b0fe0	31 32 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10 01 42 2c 62 65	128j...length..1024p.*s.....B,be
b1000	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c	rt.encoder.layer.5.attention.sel
b1020	66 2e 6b 65 79 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e	f.key.biasj...location..model.on
b1040	6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 34 39 31 35 32 6a 0e 0a 06 6c 65 6e 67	nx.dataj...offset..49152j...leng
b1060	74 68 12 04 31 30 32 34 70 01 2a 75 08 80 02 10 01 42 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	th..1024p.*u.....B.bert.encoder.
b1080	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61	layer.5.attention.self.value.bia
b10a0	73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f	sj...location..model.onnx.dataj.
b10c0	0a 06 6f 66 66 73 65 74 12 05 35 30 31 37 36 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70	..offset..50176j...length..1024p
b10e0	01 2a 77 08 80 02 10 01 42 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	.*w.....B0bert.encoder.layer.5.a
b1100	74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f	ttention.output.dense.biasj...lo
b1120	63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65	cation..model.onnx.dataj...offse
b1140	74 12 05 35 31 32 30 30 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7d 08 80 02 10	t..51200j...length..1024p.*}....
b1160	01 42 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	.B6bert.encoder.layer.5.attentio
b1180	6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63	n.output.LayerNorm.weightj...loc
b11a0	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
b11c0	12 05 35 32 32 32 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 7b 08 80 02 10 01	..52224j...length..1024p.*{.....
b11e0	42 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e	B4bert.encoder.layer.5.attention
b1200	2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69	.output.LayerNorm.biasj...locati
b1220	6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 35	on..model.onnx.dataj...offset..5
b1240	33 32 34 38 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 08 10 01 42 2c 62	3248j...length..1024p.*s.....B,b
b1260	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65	ert.encoder.layer.5.intermediate
b1280	2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f	.dense.biasj...location..model.o
b12a0	6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 37 39 38 37 32 6a 0e 0a 06 6c 65 6e	nnx.dataj...offset..79872j...len
b12c0	67 74 68 12 04 34 30 39 36 70 01 2a 6d 08 80 02 10 01 42 26 62 65 72 74 2e 65 6e 63 6f 64 65 72	gth..4096p.*m.....B&bert.encoder
b12e0	2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 6a 1b 0a 08 6c 6f	.layer.5.output.dense.biasj...lo
b1300	63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65	cation..model.onnx.dataj...offse
b1320	74 12 05 35 34 32 37 32 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 73 08 80 02 10	t..54272j...length..1024p.*s....
b1340	01 42 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c	.B,bert.encoder.layer.5.output.L
b1360	61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64	ayerNorm.weightj...location..mod
b1380	65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 35 35 32 39 36 6a 0e 0a	el.onnx.dataj...offset..55296j..
b13a0	06 6c 65 6e 67 74 68 12 04 31 30 32 34 70 01 2a 71 08 80 02 10 01 42 2a 62 65 72 74 2e 65 6e 63	.length..1024p.*q.....B*bert.enc
b13c0	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69	oder.layer.5.output.LayerNorm.bi
b13e0	61 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a	asj...location..model.onnx.dataj
b1400	0f 0a 06 6f 66 66 73 65 74 12 05 35 36 33 32 30 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 31 30 32 34	...offset..56320j...length..1024
b1420	70 01 2a 43 08 0b 10 01 42 0f 63 6c 61 73 73 69 66 69 65 72 2e 62 69 61 73 4a 2c c0 b1 f0 3b a8	p.*C....B.classifier.biasJ,...;.
b1440	da 57 bd aa fe 79 bc 16 17 de bc 17 82 7b bd c7 0d 93 bd ec 6d b1 bc ae 44 20 3c 00 fa 09 3c 6d	.W...y.......{......m...D.<...<m
b1460	2f 92 bc b5 9a 93 bb 2a 65 08 01 08 80 04 10 07 42 1c 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67	/......*e.......B.bert.embedding
b1480	73 2e 70 6f 73 69 74 69 6f 6e 5f 69 64 73 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65	s.position_idsj...location..mode
b14a0	6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05 38 33 39 36 38 6a 0e 0a 06	l.onnx.dataj...offset..83968j...
b14c0	6c 65 6e 67 74 68 12 04 34 30 39 36 70 01 2a 67 08 01 08 80 04 10 07 42 1e 62 65 72 74 2e 65 6d	length..4096p.*g.......B.bert.em
b14e0	62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 6a 1b 0a 08 6c 6f 63 61 74	beddings.token_type_idsj...locat
b1500	69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66 66 73 65 74 12 05	ion..model.onnx.dataj...offset..
b1520	38 38 30 36 34 6a 0e 0a 06 6c 65 6e 67 74 68 12 04 34 30 39 36 70 01 2a 16 08 01 10 07 42 06 76	88064j...length..4096p.*.....B.v
b1540	61 6c 5f 31 30 4a 08 01 00 00 00 00 00 00 00 2a 16 08 01 10 07 42 06 76 61 6c 5f 31 39 4a 08 00	al_10J.........*.....B.val_19J..
b1560	00 00 00 00 00 00 00 2a 11 10 01 42 07 63 6c 6f 6e 65 5f 31 4a 04 00 00 80 3f 2a 10 10 01 42 06	.......*...B.clone_1J....?*...B.
b1580	76 61 6c 5f 36 30 4a 04 ff ff 7f ff 2a 53 08 80 02 08 80 02 10 01 42 06 76 61 6c 5f 36 31 6a 1b	val_60J.....*S........B.val_61j.
b15a0	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 10 0a 06 6f	..location..model.onnx.dataj...o
b15c0	66 66 73 65 74 12 06 31 30 33 34 32 34 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70	ffset..103424j...length..262144p
b15e0	01 2a 53 08 80 02 08 80 02 10 01 42 06 76 61 6c 5f 36 39 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12	.*S........B.val_69j...location.
b1600	0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 10 0a 06 6f 66 66 73 65 74 12 06 33 36 35 35	.model.onnx.dataj...offset..3655
b1620	36 38 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 53 08 80 02 08 80 02 10 01	68j...length..262144p.*S........
b1640	42 06 76 61 6c 5f 37 37 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78	B.val_77j...location..model.onnx
b1660	2e 64 61 74 61 6a 10 0a 06 6f 66 66 73 65 74 12 06 36 32 37 37 31 32 6a 10 0a 06 6c 65 6e 67 74	.dataj...offset..627712j...lengt
b1680	68 12 06 32 36 32 31 34 34 70 01 2a 13 08 01 10 01 42 07 76 61 6c 5f 31 30 38 4a 04 fd 44 d7 3e	h..262144p.*.....B.val_108J..D.>
b16a0	2a 54 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 31 32 30 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12	*T........B.val_120j...location.
b16c0	0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 10 0a 06 6f 66 66 73 65 74 12 06 38 38 39 38	.model.onnx.dataj...offset..8898
b16e0	35 36 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 56 08 80 02 08 80 08 10 01	56j...length..262144p.*V........
b1700	42 07 76 61 6c 5f 31 32 34 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	B.val_124j...location..model.onn
b1720	78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 36 39 31 39 31 36 38 6a 11 0a 06 6c 65 6e	x.dataj...offset..6919168j...len
b1740	67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 56 08 80 08 08 80 02 10 01 42 07 76 61 6c 5f 31 33	gth..1048576p.*V........B.val_13
b1760	33 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11	3j...location..model.onnx.dataj.
b1780	0a 06 6f 66 66 73 65 74 12 07 37 39 36 37 37 34 34 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34	..offset..7967744j...length..104
b17a0	38 35 37 36 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 31 33 37 6a 1b 0a 08 6c 6f 63	8576p.*U........B.val_137j...loc
b17c0	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
b17e0	12 07 31 31 35 32 30 30 30 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08	..1152000j...length..262144p.*U.
b1800	80 02 08 80 02 10 01 42 07 76 61 6c 5f 31 34 35 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f	.......B.val_145j...location..mo
b1820	64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 31 34 31 34 31 34 34	del.onnx.dataj...offset..1414144
b1840	6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07	j...length..262144p.*U........B.
b1860	76 61 6c 5f 31 35 33 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	val_153j...location..model.onnx.
b1880	64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 31 36 37 36 32 38 38 6a 10 0a 06 6c 65 6e 67 74	dataj...offset..1676288j...lengt
b18a0	68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 31 39 34 6a 1b	h..262144p.*U........B.val_194j.
b18c0	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f	..location..model.onnx.dataj...o
b18e0	66 66 73 65 74 12 07 31 39 33 38 34 33 32 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34	ffset..1938432j...length..262144
b1900	70 01 2a 56 08 80 02 08 80 08 10 01 42 07 76 61 6c 5f 31 39 38 6a 1b 0a 08 6c 6f 63 61 74 69 6f	p.*V........B.val_198j...locatio
b1920	6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 39 30	n..model.onnx.dataj...offset..90
b1940	31 36 33 32 30 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 57 08 80 08 08	16320j...length..1048576p.*W....
b1960	80 02 10 01 42 07 76 61 6c 5f 32 30 37 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c	....B.val_207j...location..model
b1980	2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 30 30 36 34 38 39 36 6a 11	.onnx.dataj...offset..10064896j.
b19a0	0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76	..length..1048576p.*U........B.v
b19c0	61 6c 5f 32 31 31 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64	al_211j...location..model.onnx.d
b19e0	61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 32 32 30 30 35 37 36 6a 10 0a 06 6c 65 6e 67 74 68	ataj...offset..2200576j...length
b1a00	12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 32 31 39 6a 1b 0a	..262144p.*U........B.val_219j..
b1a20	08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66	.location..model.onnx.dataj...of
b1a40	66 73 65 74 12 07 32 34 36 32 37 32 30 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70	fset..2462720j...length..262144p
b1a60	01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 32 32 37 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e	.*U........B.val_227j...location
b1a80	12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 32 37 32	..model.onnx.dataj...offset..272
b1aa0	34 38 36 34 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02	4864j...length..262144p.*U......
b1ac0	10 01 42 07 76 61 6c 5f 32 36 38 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f	..B.val_268j...location..model.o
b1ae0	6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 32 39 38 37 30 30 38 6a 10 0a 06 6c	nnx.dataj...offset..2987008j...l
b1b00	65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 57 08 80 02 08 80 08 10 01 42 07 76 61 6c 5f 32	ength..262144p.*W........B.val_2
b1b20	37 32 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a	72j...location..model.onnx.dataj
b1b40	12 0a 06 6f 66 66 73 65 74 12 08 31 31 31 31 33 34 37 32 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31	...offset..11113472j...length..1
b1b60	30 34 38 35 37 36 70 01 2a 57 08 80 08 08 80 02 10 01 42 07 76 61 6c 5f 32 38 31 6a 1b 0a 08 6c	048576p.*W........B.val_281j...l
b1b80	6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73	ocation..model.onnx.dataj...offs
b1ba0	65 74 12 08 31 32 31 36 32 30 34 38 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70	et..12162048j...length..1048576p
b1bc0	01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 32 38 35 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e	.*U........B.val_285j...location
b1be0	12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 33 32 34	..model.onnx.dataj...offset..324
b1c00	39 31 35 32 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02	9152j...length..262144p.*U......
b1c20	10 01 42 07 76 61 6c 5f 32 39 33 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f	..B.val_293j...location..model.o
b1c40	6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 33 35 31 31 32 39 36 6a 10 0a 06 6c	nnx.dataj...offset..3511296j...l
b1c60	65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 33	ength..262144p.*U........B.val_3
b1c80	30 31 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a	01j...location..model.onnx.dataj
b1ca0	11 0a 06 6f 66 66 73 65 74 12 07 33 37 37 33 34 34 30 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36	...offset..3773440j...length..26
b1cc0	32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 33 34 32 6a 1b 0a 08 6c 6f 63	2144p.*U........B.val_342j...loc
b1ce0	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
b1d00	12 07 34 30 33 35 35 38 34 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 57 08	..4035584j...length..262144p.*W.
b1d20	80 02 08 80 08 10 01 42 07 76 61 6c 5f 33 34 36 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f	.......B.val_346j...location..mo
b1d40	64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 33 32 31 30 36 32	del.onnx.dataj...offset..1321062
b1d60	34 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 57 08 80 08 08 80 02 10 01	4j...length..1048576p.*W........
b1d80	42 07 76 61 6c 5f 33 35 35 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e	B.val_355j...location..model.onn
b1da0	78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 34 32 35 39 32 30 30 6a 11 0a 06 6c 65	x.dataj...offset..14259200j...le
b1dc0	6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 33	ngth..1048576p.*U........B.val_3
b1de0	35 39 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a	59j...location..model.onnx.dataj
b1e00	11 0a 06 6f 66 66 73 65 74 12 07 34 32 39 37 37 32 38 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36	...offset..4297728j...length..26
b1e20	32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 33 36 37 6a 1b 0a 08 6c 6f 63	2144p.*U........B.val_367j...loc
b1e40	61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74	ation..model.onnx.dataj...offset
b1e60	12 07 34 35 35 39 38 37 32 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08	..4559872j...length..262144p.*U.
b1e80	80 02 08 80 02 10 01 42 07 76 61 6c 5f 33 37 35 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f	.......B.val_375j...location..mo
b1ea0	64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 34 38 32 32 30 31 36	del.onnx.dataj...offset..4822016
b1ec0	6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07	j...length..262144p.*U........B.
b1ee0	76 61 6c 5f 34 31 36 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	val_416j...location..model.onnx.
b1f00	64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 35 30 38 34 31 36 30 6a 10 0a 06 6c 65 6e 67 74	dataj...offset..5084160j...lengt
b1f20	68 12 06 32 36 32 31 34 34 70 01 2a 57 08 80 02 08 80 08 10 01 42 07 76 61 6c 5f 34 32 30 6a 1b	h..262144p.*W........B.val_420j.
b1f40	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f	..location..model.onnx.dataj...o
b1f60	66 66 73 65 74 12 08 31 35 33 30 37 37 37 36 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35	ffset..15307776j...length..10485
b1f80	37 36 70 01 2a 57 08 80 08 08 80 02 10 01 42 07 76 61 6c 5f 34 32 39 6a 1b 0a 08 6c 6f 63 61 74	76p.*W........B.val_429j...locat
b1fa0	69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08	ion..model.onnx.dataj...offset..
b1fc0	31 36 33 35 36 33 35 32 6a 11 0a 06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 55 08	16356352j...length..1048576p.*U.
b1fe0	80 02 08 80 02 10 01 42 07 76 61 6c 5f 34 33 33 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f	.......B.val_433j...location..mo
b2000	64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 35 33 34 36 33 30 34	del.onnx.dataj...offset..5346304
b2020	6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07	j...length..262144p.*U........B.
b2040	76 61 6c 5f 34 34 31 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e	val_441j...location..model.onnx.
b2060	64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 35 36 30 38 34 34 38 6a 10 0a 06 6c 65 6e 67 74	dataj...offset..5608448j...lengt
b2080	68 12 06 32 36 32 31 34 34 70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 34 34 39 6a 1b	h..262144p.*U........B.val_449j.
b20a0	0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f	..location..model.onnx.dataj...o
b20c0	66 66 73 65 74 12 07 35 38 37 30 35 39 32 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34	ffset..5870592j...length..262144
b20e0	70 01 2a 55 08 80 02 08 80 02 10 01 42 07 76 61 6c 5f 34 39 30 6a 1b 0a 08 6c 6f 63 61 74 69 6f	p.*U........B.val_490j...locatio
b2100	6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 11 0a 06 6f 66 66 73 65 74 12 07 36 31	n..model.onnx.dataj...offset..61
b2120	33 32 37 33 36 6a 10 0a 06 6c 65 6e 67 74 68 12 06 32 36 32 31 34 34 70 01 2a 57 08 80 02 08 80	32736j...length..262144p.*W.....
b2140	08 10 01 42 07 76 61 6c 5f 34 39 34 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e	...B.val_494j...location..model.
b2160	6f 6e 6e 78 2e 64 61 74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 37 34 30 34 39 32 38 6a 11 0a	onnx.dataj...offset..17404928j..
b2180	06 6c 65 6e 67 74 68 12 07 31 30 34 38 35 37 36 70 01 2a 57 08 80 08 08 80 02 10 01 42 07 76 61	.length..1048576p.*W........B.va
b21a0	6c 5f 35 30 33 6a 1b 0a 08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61	l_503j...location..model.onnx.da
b21c0	74 61 6a 12 0a 06 6f 66 66 73 65 74 12 08 31 38 34 35 33 35 30 34 6a 11 0a 06 6c 65 6e 67 74 68	taj...offset..18453504j...length
b21e0	12 07 31 30 34 38 35 37 36 70 01 2a 51 08 80 02 08 0b 10 01 42 07 76 61 6c 5f 35 30 37 6a 1b 0a	..1048576p.*Q.......B.val_507j..
b2200	08 6c 6f 63 61 74 69 6f 6e 12 0f 6d 6f 64 65 6c 2e 6f 6e 6e 78 2e 64 61 74 61 6a 0f 0a 06 6f 66	.location..model.onnx.dataj...of
b2220	66 73 65 74 12 05 39 32 31 36 30 6a 0f 0a 06 6c 65 6e 67 74 68 12 05 31 31 32 36 34 70 01 2a 1f	fset..92160j...length..11264p.*.
b2240	08 02 10 07 42 07 76 61 6c 5f 35 30 39 4a 10 01 00 00 00 00 00 00 00 02 00 00 00 00 00 00 00 2a	....B.val_509J.................*
b2260	16 08 01 10 07 42 06 76 61 6c 5f 36 35 4a 08 ff ff ff ff ff ff ff ff 2a 16 08 01 10 07 42 06 76	.....B.val_65J.........*.....B.v
b2280	61 6c 5f 36 36 4a 08 08 00 00 00 00 00 00 00 2a 16 08 01 10 07 42 06 76 61 6c 5f 36 37 4a 08 20	al_66J.........*.....B.val_67J..
b22a0	00 00 00 00 00 00 00 2a 16 08 01 10 07 42 06 76 61 6c 5f 39 35 4a 08 ff ff ff ff ff ff ff 7f 2a	.......*.....B.val_95J.........*
b22c0	16 08 01 10 07 42 06 76 61 6c 5f 39 38 4a 08 fe ff ff ff ff ff ff ff 2a 17 08 01 10 07 42 07 76	.....B.val_98J.........*.....B.v
b22e0	61 6c 5f 31 30 30 4a 08 00 00 00 00 00 00 00 80 2a 17 08 01 10 07 42 07 76 61 6c 5f 31 31 38 4a	al_100J.........*.....B.val_118J
b2300	08 00 01 00 00 00 00 00 00 2a 11 10 01 42 07 76 61 6c 5f 31 32 36 4a 04 f3 04 b5 3f 2a 11 10 01	.........*...B.val_126J....?*...
b2320	42 07 76 61 6c 5f 31 33 31 4a 04 00 00 00 3f 5a cf 01 0a 09 69 6e 70 75 74 5f 69 64 73 12 14 0a	B.val_131J....?Z....input_ids...
b2340	12 08 07 12 0e 0a 05 12 03 73 37 32 0a 05 12 03 73 35 33 22 3d 0a 2f 70 6b 67 2e 74 6f 72 63 68	.........s72....s53"=./pkg.torch
b2360	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b2380	63 2e 6b 69 6e 64 12 0a 55 53 45 52 5f 49 4e 50 55 54 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e	c.kind..USER_INPUT"=.5pkg.torch.
b23a0	65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63	export.graph_signature.InputSpec
b23c0	2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 2e 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f	.persistent..None"..!pkg.torch.o
b23e0	6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 09 69 6e 70 75 74 5f 69 64	nnx.original_node_name..input_id
b2400	73 5a d9 01 0a 0e 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 12 14 0a 12 08 07 12 0e 0a 05 12 03	sZ....attention_mask............
b2420	73 34 33 0a 05 12 03 73 35 33 22 3d 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67	s43....s53"=./pkg.torch.export.g
b2440	72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 0a 55	raph_signature.InputSpec.kind..U
b2460	53 45 52 5f 49 4e 50 55 54 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	SER_INPUT"=.5pkg.torch.export.gr
b2480	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65	aph_signature.InputSpec.persiste
b24a0	6e 74 12 04 4e 6f 6e 65 22 33 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69	nt..None"3.!pkg.torch.onnx.origi
b24c0	6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 0e 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 62 90 01	nal_node_name..attention_maskb..
b24e0	0a 06 6c 6f 67 69 74 73 12 15 0a 13 08 01 12 0f 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 0b 22	..logits................s53...."
b2500	3f 0a 30 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	?.0pkg.torch.export.graph_signat
b2520	75 72 65 2e 4f 75 74 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 0b 55 53 45 52 5f 4f 55 54 50 55 54	ure.OutputSpec.kind..USER_OUTPUT
b2540	22 2e 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65	"..!pkg.torch.onnx.original_node
b2560	5f 6e 61 6d 65 12 09 6c 69 6e 65 61 72 5f 33 36 6a 87 02 0a 26 62 65 72 74 2e 65 6d 62 65 64 64	_name..linear_36j...&bert.embedd
b2580	69 6e 67 73 2e 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 12 11 0a 0f 08	ings.word_embeddings.weight.....
b25a0	01 12 0b 0a 04 08 88 a5 01 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f	.............."<./pkg.torch.expo
b25c0	72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e	rt.graph_signature.InputSpec.kin
b25e0	64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74	d..PARAMETER"=.5pkg.torch.export
b2600	2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69	.graph_signature.InputSpec.persi
b2620	73 74 65 6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72	stent..None"M.!pkg.torch.onnx.or
b2640	69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69	iginal_node_name.(p_bert_embeddi
b2660	6e 67 73 5f 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 6a 8e 02 0a 2a 62	ngs_word_embeddings_weightj...*b
b2680	65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e	ert.embeddings.position_embeddin
b26a0	67 73 2e 77 65 69 67 68 74 12 10 0a 0e 08 01 12 0a 0a 03 08 80 04 0a 03 08 80 02 22 3c 0a 2f 70	gs.weight.................."<./p
b26c0	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b26e0	49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67	InputSpec.kind..PARAMETER"=.5pkg
b2700	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b2720	70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 51 0a 21 70 6b 67 2e	putSpec.persistent..None"Q.!pkg.
b2740	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2c 70	torch.onnx.original_node_name.,p
b2760	5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64	_bert_embeddings_position_embedd
b2780	69 6e 67 73 5f 77 65 69 67 68 74 6a 91 02 0a 2c 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e	ings_weightj...,bert.embeddings.
b27a0	74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 12 0f 0a 0d	token_type_embeddings.weight....
b27c0	08 01 12 09 0a 02 08 02 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	............."<./pkg.torch.expor
b27e0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64	t.graph_signature.InputSpec.kind
b2800	12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..PARAMETER"=.5pkg.torch.export.
b2820	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73	graph_signature.InputSpec.persis
b2840	74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69	tent..None"S.!pkg.torch.onnx.ori
b2860	67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e	ginal_node_name..p_bert_embeddin
b2880	67 73 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 6a	gs_token_type_embeddings_weightj
b28a0	f5 01 0a 20 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65	....bert.embeddings.LayerNorm.we
b28c0	69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	ight............."<./pkg.torch.e
b28e0	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b2900	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b2920	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b2940	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 47 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"G.!pkg.torch.onnx
b2960	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 22 70 5f 62 65 72 74 5f 65 6d 62 65	.original_node_name."p_bert_embe
b2980	64 64 69 6e 67 73 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a f1 01 0a 1e 62 65 72 74	ddings_layernorm_weightj....bert
b29a0	2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01	.embeddings.LayerNorm.bias......
b29c0	12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	......."<./pkg.torch.export.grap
b29e0	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41	h_signature.InputSpec.kind..PARA
b2a00	4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	METER"=.5pkg.torch.export.graph_
b2a20	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04	signature.InputSpec.persistent..
b2a40	4e 6f 6e 65 22 45 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f	None"E.!pkg.torch.onnx.original_
b2a60	6e 6f 64 65 5f 6e 61 6d 65 12 20 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 6c 61 79	node_name..p_bert_embeddings_lay
b2a80	65 72 6e 6f 72 6d 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ernorm_biasj....bert.encoder.lay
b2aa0	65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12 0b	er.0.attention.self.query.bias..
b2ac0	0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..........."<./pkg.torch.export.
b2ae0	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09	graph_signature.InputSpec.kind..
b2b00	50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	PARAMETER"=.5pkg.torch.export.gr
b2b20	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65	aph_signature.InputSpec.persiste
b2b40	6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69	nt..None"U.!pkg.torch.onnx.origi
b2b60	6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	nal_node_name.0p_bert_encoder_la
b2b80	79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 6a	yer_0_attention_self_query_biasj
b2ba0	8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	...,bert.encoder.layer.0.attenti
b2bc0	6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a	on.self.key.bias............."<.
b2be0	2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	/pkg.torch.export.graph_signatur
b2c00	65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70	e.InputSpec.kind..PARAMETER"=.5p
b2c20	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b2c40	49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b	InputSpec.persistent..None"S.!pk
b2c60	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12	g.torch.onnx.original_node_name.
b2c80	2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f	.p_bert_encoder_layer_0_attentio
b2ca0	6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72	n_self_key_biasj....bert.encoder
b2cc0	2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69	.layer.0.attention.self.value.bi
b2ce0	61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	as............."<./pkg.torch.exp
b2d00	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69	ort.graph_signature.InputSpec.ki
b2d20	6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	nd..PARAMETER"=.5pkg.torch.expor
b2d40	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73	t.graph_signature.InputSpec.pers
b2d60	69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f	istent..None"U.!pkg.torch.onnx.o
b2d80	72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	riginal_node_name.0p_bert_encode
b2da0	72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62	r_layer_0_attention_self_value_b
b2dc0	69 61 73 6a 95 02 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74	iasj...0bert.encoder.layer.0.att
b2de0	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05	ention.output.dense.bias........
b2e00	0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	....."<./pkg.torch.export.graph_
b2e20	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45	signature.InputSpec.kind..PARAME
b2e40	54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	TER"=.5pkg.torch.export.graph_si
b2e60	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f	gnature.InputSpec.persistent..No
b2e80	6e 65 22 57 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f	ne"W.!pkg.torch.onnx.original_no
b2ea0	64 65 5f 6e 61 6d 65 12 32 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f	de_name.2p_bert_encoder_layer_0_
b2ec0	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a a1 02 0a 36	attention_output_dense_biasj...6
b2ee0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f	bert.encoder.layer.0.attention.o
b2f00	75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03	utput.LayerNorm.weight..........
b2f20	08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	..."<./pkg.torch.export.graph_si
b2f40	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45	gnature.InputSpec.kind..PARAMETE
b2f60	52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	R"=.5pkg.torch.export.graph_sign
b2f80	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65	ature.InputSpec.persistent..None
b2fa0	22 5d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65	"].!pkg.torch.onnx.original_node
b2fc0	5f 6e 61 6d 65 12 38 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74	_name.8p_bert_encoder_layer_0_at
b2fe0	74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a	tention_output_layernorm_weightj
b3000	9d 02 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69	...4bert.encoder.layer.0.attenti
b3020	6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05	on.output.LayerNorm.bias........
b3040	0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	....."<./pkg.torch.export.graph_
b3060	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45	signature.InputSpec.kind..PARAME
b3080	54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	TER"=.5pkg.torch.export.graph_si
b30a0	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f	gnature.InputSpec.persistent..No
b30c0	6e 65 22 5b 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f	ne"[.!pkg.torch.onnx.original_no
b30e0	64 65 5f 6e 61 6d 65 12 36 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f	de_name.6p_bert_encoder_layer_0_
b3100	61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a	attention_output_layernorm_biasj
b3120	8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65	...,bert.encoder.layer.0.interme
b3140	64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 08 22 3c 0a	diate.dense.bias............."<.
b3160	2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	/pkg.torch.export.graph_signatur
b3180	65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70	e.InputSpec.kind..PARAMETER"=.5p
b31a0	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b31c0	49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b	InputSpec.persistent..None"S.!pk
b31e0	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12	g.torch.onnx.original_node_name.
b3200	2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 69 6e 74 65 72 6d 65 64	.p_bert_encoder_layer_0_intermed
b3220	69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 6a 81 02 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72	iate_dense_biasj...&bert.encoder
b3240	2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01	.layer.0.output.dense.bias......
b3260	12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	......."<./pkg.torch.export.grap
b3280	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41	h_signature.InputSpec.kind..PARA
b32a0	4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	METER"=.5pkg.torch.export.graph_
b32c0	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04	signature.InputSpec.persistent..
b32e0	4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f	None"M.!pkg.torch.onnx.original_
b3300	6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	node_name.(p_bert_encoder_layer_
b3320	30 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63	0_output_dense_biasj...,bert.enc
b3340	6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65	oder.layer.0.output.LayerNorm.we
b3360	69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	ight............."<./pkg.torch.e
b3380	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b33a0	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b33c0	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b33e0	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"S.!pkg.torch.onnx
b3400	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f	.original_node_name..p_bert_enco
b3420	64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69	der_layer_0_output_layernorm_wei
b3440	67 68 74 6a 89 02 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74	ghtj...*bert.encoder.layer.0.out
b3460	70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22	put.LayerNorm.bias............."
b3480	3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	<./pkg.torch.export.graph_signat
b34a0	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a	ure.InputSpec.kind..PARAMETER"=.
b34c0	35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	5pkg.torch.export.graph_signatur
b34e0	65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 51 0a 21	e.InputSpec.persistent..None"Q.!
b3500	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d	pkg.torch.onnx.original_node_nam
b3520	65 12 2c 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74	e.,p_bert_encoder_layer_0_output
b3540	5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72	_layernorm_biasj....bert.encoder
b3560	2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69	.layer.1.attention.self.query.bi
b3580	61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	as............."<./pkg.torch.exp
b35a0	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69	ort.graph_signature.InputSpec.ki
b35c0	6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	nd..PARAMETER"=.5pkg.torch.expor
b35e0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73	t.graph_signature.InputSpec.pers
b3600	69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f	istent..None"U.!pkg.torch.onnx.o
b3620	72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	riginal_node_name.0p_bert_encode
b3640	72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62	r_layer_1_attention_self_query_b
b3660	69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	iasj...,bert.encoder.layer.1.att
b3680	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80	ention.self.key.bias............
b36a0	02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	."<./pkg.torch.export.graph_sign
b36c0	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22	ature.InputSpec.kind..PARAMETER"
b36e0	3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	=.5pkg.torch.export.graph_signat
b3700	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53	ure.InputSpec.persistent..None"S
b3720	0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e	.!pkg.torch.onnx.original_node_n
b3740	61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65	ame..p_bert_encoder_layer_1_atte
b3760	6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63	ntion_self_key_biasj....bert.enc
b3780	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75	oder.layer.1.attention.self.valu
b37a0	65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68	e.bias............."<./pkg.torch
b37c0	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b37e0	63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65	c.kind..PARAMETER"=.5pkg.torch.e
b3800	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b3820	70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	persistent..None"U.!pkg.torch.on
b3840	6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e	nx.original_node_name.0p_bert_en
b3860	63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c	coder_layer_1_attention_self_val
b3880	75 65 5f 62 69 61 73 6a 95 02 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	ue_biasj...0bert.encoder.layer.1
b38a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09	.attention.output.dense.bias....
b38c0	08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	........."<./pkg.torch.export.gr
b38e0	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41	aph_signature.InputSpec.kind..PA
b3900	52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	RAMETER"=.5pkg.torch.export.grap
b3920	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74	h_signature.InputSpec.persistent
b3940	12 04 4e 6f 6e 65 22 57 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61	..None"W.!pkg.torch.onnx.origina
b3960	6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 32 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	l_node_name.2p_bert_encoder_laye
b3980	72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a	r_1_attention_output_dense_biasj
b39a0	a1 02 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69	...6bert.encoder.layer.1.attenti
b39c0	6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01	on.output.LayerNorm.weight......
b39e0	12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	......."<./pkg.torch.export.grap
b3a00	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41	h_signature.InputSpec.kind..PARA
b3a20	4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	METER"=.5pkg.torch.export.graph_
b3a40	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04	signature.InputSpec.persistent..
b3a60	4e 6f 6e 65 22 5d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f	None"].!pkg.torch.onnx.original_
b3a80	6e 6f 64 65 5f 6e 61 6d 65 12 38 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	node_name.8p_bert_encoder_layer_
b3aa0	31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69	1_attention_output_layernorm_wei
b3ac0	67 68 74 6a 9d 02 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74	ghtj...4bert.encoder.layer.1.att
b3ae0	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09	ention.output.LayerNorm.bias....
b3b00	08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	........."<./pkg.torch.export.gr
b3b20	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41	aph_signature.InputSpec.kind..PA
b3b40	52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	RAMETER"=.5pkg.torch.export.grap
b3b60	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74	h_signature.InputSpec.persistent
b3b80	12 04 4e 6f 6e 65 22 5b 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61	..None"[.!pkg.torch.onnx.origina
b3ba0	6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 36 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	l_node_name.6p_bert_encoder_laye
b3bc0	72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	r_1_attention_output_layernorm_b
b3be0	69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74	iasj...,bert.encoder.layer.1.int
b3c00	65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80	ermediate.dense.bias............
b3c20	08 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	."<./pkg.torch.export.graph_sign
b3c40	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22	ature.InputSpec.kind..PARAMETER"
b3c60	3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	=.5pkg.torch.export.graph_signat
b3c80	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53	ure.InputSpec.persistent..None"S
b3ca0	0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e	.!pkg.torch.onnx.original_node_n
b3cc0	61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 69 6e 74 65	ame..p_bert_encoder_layer_1_inte
b3ce0	72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 6a 81 02 0a 26 62 65 72 74 2e 65 6e 63	rmediate_dense_biasj...&bert.enc
b3d00	6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b	oder.layer.1.output.dense.bias..
b3d20	0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..........."<./pkg.torch.export.
b3d40	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09	graph_signature.InputSpec.kind..
b3d60	50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	PARAMETER"=.5pkg.torch.export.gr
b3d80	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65	aph_signature.InputSpec.persiste
b3da0	6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69	nt..None"M.!pkg.torch.onnx.origi
b3dc0	6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	nal_node_name.(p_bert_encoder_la
b3de0	79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74	yer_1_output_dense_biasj...,bert
b3e00	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72	.encoder.layer.1.output.LayerNor
b3e20	6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72	m.weight............."<./pkg.tor
b3e40	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b3e60	70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68	pec.kind..PARAMETER"=.5pkg.torch
b3e80	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b3ea0	63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e	c.persistent..None"S.!pkg.torch.
b3ec0	6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f	onnx.original_node_name..p_bert_
b3ee0	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d	encoder_layer_1_output_layernorm
b3f00	5f 77 65 69 67 68 74 6a 89 02 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31	_weightj...*bert.encoder.layer.1
b3f20	2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03	.output.LayerNorm.bias..........
b3f40	08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	..."<./pkg.torch.export.graph_si
b3f60	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45	gnature.InputSpec.kind..PARAMETE
b3f80	52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	R"=.5pkg.torch.export.graph_sign
b3fa0	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65	ature.InputSpec.persistent..None
b3fc0	22 51 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65	"Q.!pkg.torch.onnx.original_node
b3fe0	5f 6e 61 6d 65 12 2c 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75	_name.,p_bert_encoder_layer_1_ou
b4000	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63	tput_layernorm_biasj....bert.enc
b4020	6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72	oder.layer.2.attention.self.quer
b4040	79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68	y.bias............."<./pkg.torch
b4060	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b4080	63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65	c.kind..PARAMETER"=.5pkg.torch.e
b40a0	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b40c0	70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	persistent..None"U.!pkg.torch.on
b40e0	6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e	nx.original_node_name.0p_bert_en
b4100	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 71 75 65	coder_layer_2_attention_self_que
b4120	72 79 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	ry_biasj...,bert.encoder.layer.2
b4140	2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05	.attention.self.key.bias........
b4160	0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	....."<./pkg.torch.export.graph_
b4180	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45	signature.InputSpec.kind..PARAME
b41a0	54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	TER"=.5pkg.torch.export.graph_si
b41c0	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f	gnature.InputSpec.persistent..No
b41e0	6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f	ne"S.!pkg.torch.onnx.original_no
b4200	64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f	de_name..p_bert_encoder_layer_2_
b4220	61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74	attention_self_key_biasj....bert
b4240	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e	.encoder.layer.2.attention.self.
b4260	76 61 6c 75 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74	value.bias............."<./pkg.t
b4280	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b42a0	74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72	tSpec.kind..PARAMETER"=.5pkg.tor
b42c0	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b42e0	70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63	pec.persistent..None"U.!pkg.torc
b4300	68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72	h.onnx.original_node_name.0p_ber
b4320	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_2_attention_self
b4340	5f 76 61 6c 75 65 5f 62 69 61 73 6a 95 02 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_value_biasj...0bert.encoder.lay
b4360	65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73	er.2.attention.output.dense.bias
b4380	12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	............."<./pkg.torch.expor
b43a0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64	t.graph_signature.InputSpec.kind
b43c0	12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..PARAMETER"=.5pkg.torch.export.
b43e0	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73	graph_signature.InputSpec.persis
b4400	74 65 6e 74 12 04 4e 6f 6e 65 22 57 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69	tent..None"W.!pkg.torch.onnx.ori
b4420	67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 32 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	ginal_node_name.2p_bert_encoder_
b4440	6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62	layer_2_attention_output_dense_b
b4460	69 61 73 6a a1 02 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74	iasj...6bert.encoder.layer.2.att
b4480	65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b	ention.output.LayerNorm.weight..
b44a0	0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..........."<./pkg.torch.export.
b44c0	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09	graph_signature.InputSpec.kind..
b44e0	50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	PARAMETER"=.5pkg.torch.export.gr
b4500	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65	aph_signature.InputSpec.persiste
b4520	6e 74 12 04 4e 6f 6e 65 22 5d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69	nt..None"].!pkg.torch.onnx.origi
b4540	6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 38 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	nal_node_name.8p_bert_encoder_la
b4560	79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d	yer_2_attention_output_layernorm
b4580	5f 77 65 69 67 68 74 6a 9d 02 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	_weightj...4bert.encoder.layer.2
b45a0	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73	.attention.output.LayerNorm.bias
b45c0	12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	............."<./pkg.torch.expor
b45e0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64	t.graph_signature.InputSpec.kind
b4600	12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..PARAMETER"=.5pkg.torch.export.
b4620	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73	graph_signature.InputSpec.persis
b4640	74 65 6e 74 12 04 4e 6f 6e 65 22 5b 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69	tent..None"[.!pkg.torch.onnx.ori
b4660	67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 36 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	ginal_node_name.6p_bert_encoder_
b4680	6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f	layer_2_attention_output_layerno
b46a0	72 6d 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	rm_biasj...,bert.encoder.layer.2
b46c0	2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05	.intermediate.dense.bias........
b46e0	0a 03 08 80 08 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	....."<./pkg.torch.export.graph_
b4700	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45	signature.InputSpec.kind..PARAME
b4720	54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	TER"=.5pkg.torch.export.graph_si
b4740	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f	gnature.InputSpec.persistent..No
b4760	6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f	ne"S.!pkg.torch.onnx.original_no
b4780	64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f	de_name..p_bert_encoder_layer_2_
b47a0	69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 6a 81 02 0a 26 62 65 72 74	intermediate_dense_biasj...&bert
b47c0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69	.encoder.layer.2.output.dense.bi
b47e0	61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	as............."<./pkg.torch.exp
b4800	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69	ort.graph_signature.InputSpec.ki
b4820	6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	nd..PARAMETER"=.5pkg.torch.expor
b4840	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73	t.graph_signature.InputSpec.pers
b4860	69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f	istent..None"M.!pkg.torch.onnx.o
b4880	72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	riginal_node_name.(p_bert_encode
b48a0	72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a 8d 02 0a 2c	r_layer_2_output_dense_biasj...,
b48c0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65	bert.encoder.layer.2.output.Laye
b48e0	72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67	rNorm.weight............."<./pkg
b4900	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b4920	70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74	putSpec.kind..PARAMETER"=.5pkg.t
b4940	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b4960	74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f	tSpec.persistent..None"S.!pkg.to
b4980	72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62	rch.onnx.original_node_name..p_b
b49a0	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	ert_encoder_layer_2_output_layer
b49c0	6e 6f 72 6d 5f 77 65 69 67 68 74 6a 89 02 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	norm_weightj...*bert.encoder.lay
b49e0	65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01	er.2.output.LayerNorm.bias......
b4a00	12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	......."<./pkg.torch.export.grap
b4a20	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41	h_signature.InputSpec.kind..PARA
b4a40	4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	METER"=.5pkg.torch.export.graph_
b4a60	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04	signature.InputSpec.persistent..
b4a80	4e 6f 6e 65 22 51 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f	None"Q.!pkg.torch.onnx.original_
b4aa0	6e 6f 64 65 5f 6e 61 6d 65 12 2c 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	node_name.,p_bert_encoder_layer_
b4ac0	32 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 91 02 0a 2e 62 65 72 74	2_output_layernorm_biasj....bert
b4ae0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e	.encoder.layer.3.attention.self.
b4b00	71 75 65 72 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74	query.bias............."<./pkg.t
b4b20	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b4b40	74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72	tSpec.kind..PARAMETER"=.5pkg.tor
b4b60	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b4b80	70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e 74 6f 72 63	pec.persistent..None"U.!pkg.torc
b4ba0	68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70 5f 62 65 72	h.onnx.original_node_name.0p_ber
b4bc0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_3_attention_self
b4be0	5f 71 75 65 72 79 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_query_biasj...,bert.encoder.lay
b4c00	65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 12 0b 0a 09	er.3.attention.self.key.bias....
b4c20	08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	........."<./pkg.torch.export.gr
b4c40	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41	aph_signature.InputSpec.kind..PA
b4c60	52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	RAMETER"=.5pkg.torch.export.grap
b4c80	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74	h_signature.InputSpec.persistent
b4ca0	12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61	..None"S.!pkg.torch.onnx.origina
b4cc0	6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	l_node_name..p_bert_encoder_laye
b4ce0	72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 6a 91 02 0a 2e	r_3_attention_self_key_biasj....
b4d00	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.3.attention.s
b4d20	65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70	elf.value.bias............."<./p
b4d40	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b4d60	49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67	InputSpec.kind..PARAMETER"=.5pkg
b4d80	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b4da0	70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e	putSpec.persistent..None"U.!pkg.
b4dc0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70	torch.onnx.original_node_name.0p
b4de0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_3_attention_
b4e00	73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 6a 95 02 0a 30 62 65 72 74 2e 65 6e 63 6f 64 65 72	self_value_biasj...0bert.encoder
b4e20	2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e	.layer.3.attention.output.dense.
b4e40	62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	bias............."<./pkg.torch.e
b4e60	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b4e80	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b4ea0	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b4ec0	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 57 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"W.!pkg.torch.onnx
b4ee0	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 32 70 5f 62 65 72 74 5f 65 6e 63 6f	.original_node_name.2p_bert_enco
b4f00	64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 64 65 6e	der_layer_3_attention_output_den
b4f20	73 65 5f 62 69 61 73 6a a1 02 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33	se_biasj...6bert.encoder.layer.3
b4f40	2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67	.attention.output.LayerNorm.weig
b4f60	68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	ht............."<./pkg.torch.exp
b4f80	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69	ort.graph_signature.InputSpec.ki
b4fa0	6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	nd..PARAMETER"=.5pkg.torch.expor
b4fc0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73	t.graph_signature.InputSpec.pers
b4fe0	69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f	istent..None"].!pkg.torch.onnx.o
b5000	72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 38 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	riginal_node_name.8p_bert_encode
b5020	72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_3_attention_output_layer
b5040	6e 6f 72 6d 5f 77 65 69 67 68 74 6a 9d 02 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	norm_weightj...4bert.encoder.lay
b5060	65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e	er.3.attention.output.LayerNorm.
b5080	62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	bias............."<./pkg.torch.e
b50a0	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b50c0	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b50e0	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b5100	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5b 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"[.!pkg.torch.onnx
b5120	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 36 70 5f 62 65 72 74 5f 65 6e 63 6f	.original_node_name.6p_bert_enco
b5140	64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79	der_layer_3_attention_output_lay
b5160	65 72 6e 6f 72 6d 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	ernorm_biasj...,bert.encoder.lay
b5180	65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09	er.3.intermediate.dense.bias....
b51a0	08 01 12 05 0a 03 08 80 08 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	........."<./pkg.torch.export.gr
b51c0	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41	aph_signature.InputSpec.kind..PA
b51e0	52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70	RAMETER"=.5pkg.torch.export.grap
b5200	68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74	h_signature.InputSpec.persistent
b5220	12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61	..None"S.!pkg.torch.onnx.origina
b5240	6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65	l_node_name..p_bert_encoder_laye
b5260	72 5f 33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 6a 81 02 0a 26	r_3_intermediate_dense_biasj...&
b5280	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65 6e 73	bert.encoder.layer.3.output.dens
b52a0	65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68	e.bias............."<./pkg.torch
b52c0	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b52e0	63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65	c.kind..PARAMETER"=.5pkg.torch.e
b5300	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b5320	70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	persistent..None"M.!pkg.torch.on
b5340	6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72 74 5f 65 6e	nx.original_node_name.(p_bert_en
b5360	63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a	coder_layer_3_output_dense_biasj
b5380	8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e	...,bert.encoder.layer.3.output.
b53a0	4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a	LayerNorm.weight............."<.
b53c0	2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	/pkg.torch.export.graph_signatur
b53e0	65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70	e.InputSpec.kind..PARAMETER"=.5p
b5400	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b5420	49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b	InputSpec.persistent..None"S.!pk
b5440	67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12	g.torch.onnx.original_node_name.
b5460	2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 6c	.p_bert_encoder_layer_3_output_l
b5480	61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a 89 02 0a 2a 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayernorm_weightj...*bert.encoder
b54a0	2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b	.layer.3.output.LayerNorm.bias..
b54c0	0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..........."<./pkg.torch.export.
b54e0	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09	graph_signature.InputSpec.kind..
b5500	50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72	PARAMETER"=.5pkg.torch.export.gr
b5520	61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65	aph_signature.InputSpec.persiste
b5540	6e 74 12 04 4e 6f 6e 65 22 51 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69	nt..None"Q.!pkg.torch.onnx.origi
b5560	6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2c 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	nal_node_name.,p_bert_encoder_la
b5580	79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 91 02 0a 2e	yer_3_output_layernorm_biasj....
b55a0	62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73	bert.encoder.layer.4.attention.s
b55c0	65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70	elf.query.bias............."<./p
b55e0	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b5600	49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67	InputSpec.kind..PARAMETER"=.5pkg
b5620	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b5640	70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21 70 6b 67 2e	putSpec.persistent..None"U.!pkg.
b5660	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 30 70	torch.onnx.original_node_name.0p
b5680	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_4_attention_
b56a0	73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72	self_query_biasj...,bert.encoder
b56c0	2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73	.layer.4.attention.self.key.bias
b56e0	12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	............."<./pkg.torch.expor
b5700	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64	t.graph_signature.InputSpec.kind
b5720	12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..PARAMETER"=.5pkg.torch.export.
b5740	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73	graph_signature.InputSpec.persis
b5760	74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69	tent..None"S.!pkg.torch.onnx.ori
b5780	67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	ginal_node_name..p_bert_encoder_
b57a0	6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 6a	layer_4_attention_self_key_biasj
b57c0	91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69	....bert.encoder.layer.4.attenti
b57e0	6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22	on.self.value.bias............."
b5800	3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	<./pkg.torch.export.graph_signat
b5820	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a	ure.InputSpec.kind..PARAMETER"=.
b5840	35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	5pkg.torch.export.graph_signatur
b5860	65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21	e.InputSpec.persistent..None"U.!
b5880	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d	pkg.torch.onnx.original_node_nam
b58a0	65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74	e.0p_bert_encoder_layer_4_attent
b58c0	69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 6a 95 02 0a 30 62 65 72 74 2e 65 6e 63	ion_self_value_biasj...0bert.enc
b58e0	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65	oder.layer.4.attention.output.de
b5900	6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72	nse.bias............."<./pkg.tor
b5920	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b5940	70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68	pec.kind..PARAMETER"=.5pkg.torch
b5960	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b5980	63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 57 0a 21 70 6b 67 2e 74 6f 72 63 68 2e	c.persistent..None"W.!pkg.torch.
b59a0	6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 32 70 5f 62 65 72 74 5f	onnx.original_node_name.2p_bert_
b59c0	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	encoder_layer_4_attention_output
b59e0	5f 64 65 6e 73 65 5f 62 69 61 73 6a a1 02 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79	_dense_biasj...6bert.encoder.lay
b5a00	65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e	er.4.attention.output.LayerNorm.
b5a20	77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68	weight............."<./pkg.torch
b5a40	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b5a60	63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65	c.kind..PARAMETER"=.5pkg.torch.e
b5a80	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b5aa0	70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5d 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	persistent..None"].!pkg.torch.on
b5ac0	6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 38 70 5f 62 65 72 74 5f 65 6e	nx.original_node_name.8p_bert_en
b5ae0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_4_attention_output_l
b5b00	61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a 9d 02 0a 34 62 65 72 74 2e 65 6e 63 6f 64 65 72	ayernorm_weightj...4bert.encoder
b5b20	2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e	.layer.4.attention.output.LayerN
b5b40	6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72	orm.bias............."<./pkg.tor
b5b60	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b5b80	70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68	pec.kind..PARAMETER"=.5pkg.torch
b5ba0	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b5bc0	63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5b 0a 21 70 6b 67 2e 74 6f 72 63 68 2e	c.persistent..None"[.!pkg.torch.
b5be0	6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 36 70 5f 62 65 72 74 5f	onnx.original_node_name.6p_bert_
b5c00	65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74	encoder_layer_4_attention_output
b5c20	5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72	_layernorm_biasj...,bert.encoder
b5c40	2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73	.layer.4.intermediate.dense.bias
b5c60	12 0b 0a 09 08 01 12 05 0a 03 08 80 08 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	............."<./pkg.torch.expor
b5c80	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64	t.graph_signature.InputSpec.kind
b5ca0	12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e	..PARAMETER"=.5pkg.torch.export.
b5cc0	67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73	graph_signature.InputSpec.persis
b5ce0	74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69	tent..None"S.!pkg.torch.onnx.ori
b5d00	67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f	ginal_node_name..p_bert_encoder_
b5d20	6c 61 79 65 72 5f 34 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 6a	layer_4_intermediate_dense_biasj
b5d40	81 02 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e	...&bert.encoder.layer.4.output.
b5d60	64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74	dense.bias............."<./pkg.t
b5d80	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b5da0	74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72	tSpec.kind..PARAMETER"=.5pkg.tor
b5dc0	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b5de0	70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e 74 6f 72 63	pec.persistent..None"M.!pkg.torc
b5e00	68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70 5f 62 65 72	h.onnx.original_node_name.(p_ber
b5e20	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 62	t_encoder_layer_4_output_dense_b
b5e40	69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74	iasj...,bert.encoder.layer.4.out
b5e60	70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80	put.LayerNorm.weight............
b5e80	02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	."<./pkg.torch.export.graph_sign
b5ea0	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22	ature.InputSpec.kind..PARAMETER"
b5ec0	3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	=.5pkg.torch.export.graph_signat
b5ee0	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53	ure.InputSpec.persistent..None"S
b5f00	0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e	.!pkg.torch.onnx.original_node_n
b5f20	61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70	ame..p_bert_encoder_layer_4_outp
b5f40	75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a 89 02 0a 2a 62 65 72 74 2e 65 6e 63	ut_layernorm_weightj...*bert.enc
b5f60	6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69	oder.layer.4.output.LayerNorm.bi
b5f80	61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	as............."<./pkg.torch.exp
b5fa0	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69	ort.graph_signature.InputSpec.ki
b5fc0	6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	nd..PARAMETER"=.5pkg.torch.expor
b5fe0	74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73	t.graph_signature.InputSpec.pers
b6000	69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 51 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f	istent..None"Q.!pkg.torch.onnx.o
b6020	72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2c 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	riginal_node_name.,p_bert_encode
b6040	72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a	r_layer_4_output_layernorm_biasj
b6060	91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69	....bert.encoder.layer.5.attenti
b6080	6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22	on.self.query.bias............."
b60a0	3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74	<./pkg.torch.export.graph_signat
b60c0	75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a	ure.InputSpec.kind..PARAMETER"=.
b60e0	35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72	5pkg.torch.export.graph_signatur
b6100	65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 55 0a 21	e.InputSpec.persistent..None"U.!
b6120	70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d	pkg.torch.onnx.original_node_nam
b6140	65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74	e.0p_bert_encoder_layer_5_attent
b6160	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63	ion_self_query_biasj...,bert.enc
b6180	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e	oder.layer.5.attention.self.key.
b61a0	62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	bias............."<./pkg.torch.e
b61c0	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b61e0	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b6200	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b6220	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"S.!pkg.torch.onnx
b6240	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f	.original_node_name..p_bert_enco
b6260	64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62	der_layer_5_attention_self_key_b
b6280	69 61 73 6a 91 02 0a 2e 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74	iasj....bert.encoder.layer.5.att
b62a0	65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03	ention.self.value.bias..........
b62c0	08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	..."<./pkg.torch.export.graph_si
b62e0	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45	gnature.InputSpec.kind..PARAMETE
b6300	52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	R"=.5pkg.torch.export.graph_sign
b6320	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65	ature.InputSpec.persistent..None
b6340	22 55 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65	"U.!pkg.torch.onnx.original_node
b6360	5f 6e 61 6d 65 12 30 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74	_name.0p_bert_encoder_layer_5_at
b6380	74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 6a 95 02 0a 30 62 65 72 74	tention_self_value_biasj...0bert
b63a0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75	.encoder.layer.5.attention.outpu
b63c0	74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67	t.dense.bias............."<./pkg
b63e0	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b6400	70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74	putSpec.kind..PARAMETER"=.5pkg.t
b6420	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b6440	74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 57 0a 21 70 6b 67 2e 74 6f	tSpec.persistent..None"W.!pkg.to
b6460	72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 32 70 5f 62	rch.onnx.original_node_name.2p_b
b6480	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	ert_encoder_layer_5_attention_ou
b64a0	74 70 75 74 5f 64 65 6e 73 65 5f 62 69 61 73 6a a1 02 0a 36 62 65 72 74 2e 65 6e 63 6f 64 65 72	tput_dense_biasj...6bert.encoder
b64c0	2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e	.layer.5.attention.output.LayerN
b64e0	6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74	orm.weight............."<./pkg.t
b6500	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b6520	74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72	tSpec.kind..PARAMETER"=.5pkg.tor
b6540	63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53	ch.export.graph_signature.InputS
b6560	70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5d 0a 21 70 6b 67 2e 74 6f 72 63	pec.persistent..None"].!pkg.torc
b6580	68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 38 70 5f 62 65 72	h.onnx.original_node_name.8p_ber
b65a0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_5_attention_outp
b65c0	75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a 9d 02 0a 34 62 65 72 74 2e 65 6e 63	ut_layernorm_weightj...4bert.enc
b65e0	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 4c 61	oder.layer.5.attention.output.La
b6600	79 65 72 4e 6f 72 6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67	yerNorm.bias............."<./pkg
b6620	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b6640	70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74	putSpec.kind..PARAMETER"=.5pkg.t
b6660	6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75	orch.export.graph_signature.Inpu
b6680	74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 5b 0a 21 70 6b 67 2e 74 6f	tSpec.persistent..None"[.!pkg.to
b66a0	72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 36 70 5f 62	rch.onnx.original_node_name.6p_b
b66c0	65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75	ert_encoder_layer_5_attention_ou
b66e0	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63	tput_layernorm_biasj...,bert.enc
b6700	6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e	oder.layer.5.intermediate.dense.
b6720	62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 08 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65	bias............."<./pkg.torch.e
b6740	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b6760	6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70	kind..PARAMETER"=.5pkg.torch.exp
b6780	6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65	ort.graph_signature.InputSpec.pe
b67a0	72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78	rsistent..None"S.!pkg.torch.onnx
b67c0	2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f	.original_node_name..p_bert_enco
b67e0	64 65 72 5f 6c 61 79 65 72 5f 35 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62	der_layer_5_intermediate_dense_b
b6800	69 61 73 6a 81 02 0a 26 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74	iasj...&bert.encoder.layer.5.out
b6820	70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70	put.dense.bias............."<./p
b6840	6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e	kg.torch.export.graph_signature.
b6860	49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67	InputSpec.kind..PARAMETER"=.5pkg
b6880	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b68a0	70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 4d 0a 21 70 6b 67 2e	putSpec.persistent..None"M.!pkg.
b68c0	74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 28 70	torch.onnx.original_node_name.(p
b68e0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 64 65 6e	_bert_encoder_layer_5_output_den
b6900	73 65 5f 62 69 61 73 6a 8d 02 0a 2c 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35	se_biasj...,bert.encoder.layer.5
b6920	2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 12 0b 0a 09 08 01 12 05	.output.LayerNorm.weight........
b6940	0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	....."<./pkg.torch.export.graph_
b6960	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45	signature.InputSpec.kind..PARAME
b6980	54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	TER"=.5pkg.torch.export.graph_si
b69a0	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f	gnature.InputSpec.persistent..No
b69c0	6e 65 22 53 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f	ne"S.!pkg.torch.onnx.original_no
b69e0	64 65 5f 6e 61 6d 65 12 2e 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f	de_name..p_bert_encoder_layer_5_
b6a00	6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 6a 89 02 0a 2a 62 65 72 74	output_layernorm_weightj...*bert
b6a20	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72	.encoder.layer.5.output.LayerNor
b6a40	6d 2e 62 69 61 73 12 0b 0a 09 08 01 12 05 0a 03 08 80 02 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68	m.bias............."<./pkg.torch
b6a60	2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65	.export.graph_signature.InputSpe
b6a80	63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45 52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65	c.kind..PARAMETER"=.5pkg.torch.e
b6aa0	78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e	xport.graph_signature.InputSpec.
b6ac0	70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65 22 51 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e	persistent..None"Q.!pkg.torch.on
b6ae0	6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 2c 70 5f 62 65 72 74 5f 65 6e	nx.original_node_name.,p_bert_en
b6b00	63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_5_output_layernorm_b
b6b20	69 61 73 6a d2 01 0a 0f 63 6c 61 73 73 69 66 69 65 72 2e 62 69 61 73 12 0a 0a 08 08 01 12 04 0a	iasj....classifier.bias.........
b6b40	02 08 0b 22 3c 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69	..."<./pkg.torch.export.graph_si
b6b60	67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 09 50 41 52 41 4d 45 54 45	gnature.InputSpec.kind..PARAMETE
b6b80	52 22 3d 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e	R"=.5pkg.torch.export.graph_sign
b6ba0	61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 04 4e 6f 6e 65	ature.InputSpec.persistent..None
b6bc0	22 36 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65	"6.!pkg.torch.onnx.original_node
b6be0	5f 6e 61 6d 65 12 11 70 5f 63 6c 61 73 73 69 66 69 65 72 5f 62 69 61 73 6a ef 01 0a 1c 62 65 72	_name..p_classifier_biasj....ber
b6c00	74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f 6e 5f 69 64 73 12 0f 0a 0d 08 07 12	t.embeddings.position_ids.......
b6c20	09 0a 02 08 01 0a 03 08 80 04 22 39 0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67	.........."9./pkg.torch.export.g
b6c40	72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 06 42	raph_signature.InputSpec.kind..B
b6c60	55 46 46 45 52 22 3e 0a 35 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f	UFFER">.5pkg.torch.export.graph_
b6c80	73 69 67 6e 61 74 75 72 65 2e 49 6e 70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 05	signature.InputSpec.persistent..
b6ca0	46 61 6c 73 65 22 43 0a 21 70 6b 67 2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c	False"C.!pkg.torch.onnx.original
b6cc0	5f 6e 6f 64 65 5f 6e 61 6d 65 12 1e 62 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 70 6f	_node_name..b_bert_embeddings_po
b6ce0	73 69 74 69 6f 6e 5f 69 64 73 6a f3 01 0a 1e 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74	sition_idsj....bert.embeddings.t
b6d00	6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 12 0f 0a 0d 08 07 12 09 0a 02 08 01 0a 03 08 80 04 22 39	oken_type_ids................."9
b6d20	0a 2f 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75	./pkg.torch.export.graph_signatu
b6d40	72 65 2e 49 6e 70 75 74 53 70 65 63 2e 6b 69 6e 64 12 06 42 55 46 46 45 52 22 3e 0a 35 70 6b 67	re.InputSpec.kind..BUFFER">.5pkg
b6d60	2e 74 6f 72 63 68 2e 65 78 70 6f 72 74 2e 67 72 61 70 68 5f 73 69 67 6e 61 74 75 72 65 2e 49 6e	.torch.export.graph_signature.In
b6d80	70 75 74 53 70 65 63 2e 70 65 72 73 69 73 74 65 6e 74 12 05 46 61 6c 73 65 22 45 0a 21 70 6b 67	putSpec.persistent..False"E.!pkg
b6da0	2e 74 6f 72 63 68 2e 6f 6e 6e 78 2e 6f 72 69 67 69 6e 61 6c 5f 6e 6f 64 65 5f 6e 61 6d 65 12 20	.torch.onnx.original_node_name..
b6dc0	62 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73	b_bert_embeddings_token_type_ids
b6de0	6a 59 0a 06 76 61 6c 5f 31 30 12 0a 0a 08 08 07 12 04 0a 02 08 01 22 43 0a 24 70 6b 67 2e 6f 6e	jY..val_10............"C.$pkg.on
b6e00	6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 1b	nxscript.optimizer.folded_from..
b6e20	5b 27 76 61 6c 5f 37 27 2c 20 27 76 61 6c 5f 38 27 2c 20 27 76 61 6c 5f 39 27 5d 6a 5c 0a 06 76	['val_7',.'val_8',.'val_9']j\..v
b6e40	61 6c 5f 31 39 12 0a 0a 08 08 07 12 04 0a 02 08 01 22 46 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72	al_19............"F.$pkg.onnxscr
b6e60	69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 1e 5b 27 76 61 6c	ipt.optimizer.folded_from..['val
b6e80	5f 31 36 27 2c 20 27 76 61 6c 5f 31 37 27 2c 20 27 76 61 6c 5f 31 38 27 5d 6a 53 0a 07 63 6c 6f	_16',.'val_17',.'val_18']jS..clo
b6ea0	6e 65 5f 31 12 06 0a 04 08 01 12 00 22 40 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f	ne_1........"@.$pkg.onnxscript.o
b6ec0	70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 18 5b 27 62 65 72 74 2e 6c 69 66	ptimizer.folded_from..['bert.lif
b6ee0	74 65 64 5f 74 65 6e 73 6f 72 5f 30 27 5d 6a 44 0a 06 76 61 6c 5f 36 30 12 06 0a 04 08 01 12 00	ted_tensor_0']jD..val_60........
b6f00	22 32 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c	"2.$pkg.onnxscript.optimizer.fol
b6f20	64 65 64 5f 66 72 6f 6d 12 0a 5b 27 76 61 6c 5f 35 39 27 5d 6a 78 0a 06 76 61 6c 5f 36 31 12 10	ded_from..['val_59']jx..val_61..
b6f40	0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69	................"\.$pkg.onnxscri
b6f60	70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74	pt.optimizer.folded_from.4['bert
b6f80	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e	.encoder.layer.0.attention.self.
b6fa0	71 75 65 72 79 2e 77 65 69 67 68 74 27 5d 6a 76 0a 06 76 61 6c 5f 36 39 12 10 0a 0e 08 01 12 0a	query.weight']jv..val_69........
b6fc0	0a 03 08 80 02 0a 03 08 80 02 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74	.........."Z.$pkg.onnxscript.opt
b6fe0	69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64	imizer.folded_from.2['bert.encod
b7000	65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65	er.layer.0.attention.self.key.we
b7020	69 67 68 74 27 5d 6a 78 0a 06 76 61 6c 5f 37 37 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08	ight']jx..val_77................
b7040	80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66	.."\.$pkg.onnxscript.optimizer.f
b7060	6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	olded_from.4['bert.encoder.layer
b7080	2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 77 65 69 67 68 74 27 5d	.0.attention.self.value.weight']
b70a0	6a 9a 01 0a 07 76 61 6c 5f 31 30 38 12 0a 0a 08 08 01 12 04 0a 02 08 01 22 82 01 0a 24 70 6b 67	j....val_108............"...$pkg
b70c0	2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f	.onnxscript.optimizer.folded_fro
b70e0	6d 12 5a 5b 27 76 61 6c 5f 38 35 27 2c 20 27 76 61 6c 5f 38 36 27 2c 20 27 76 61 6c 5f 38 37 27	m.Z['val_85',.'val_86',.'val_87'
b7100	2c 20 27 76 61 6c 5f 38 38 27 2c 20 27 76 61 6c 5f 38 39 27 2c 20 27 76 61 6c 5f 39 30 27 2c 20	,.'val_88',.'val_89',.'val_90',.
b7120	27 76 61 6c 5f 39 31 27 2c 20 27 76 61 6c 5f 39 32 27 2c 20 27 76 61 6c 5f 39 33 27 5d 6a 7b 0a	'val_91',.'val_92',.'val_93']j{.
b7140	07 76 61 6c 5f 31 32 30 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5e 0a 24 70 6b	.val_120.................."^.$pk
b7160	67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72	g.onnxscript.optimizer.folded_fr
b7180	6f 6d 12 36 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e	om.6['bert.encoder.layer.0.atten
b71a0	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61	tion.output.dense.weight']jw..va
b71c0	6c 5f 31 32 34 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 08 22 5a 0a 24 70 6b 67 2e 6f	l_124.................."Z.$pkg.o
b71e0	6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12	nnxscript.optimizer.folded_from.
b7200	32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64	2['bert.encoder.layer.0.intermed
b7220	69 61 74 65 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 71 0a 07 76 61 6c 5f 31 33 33 12 10	iate.dense.weight']jq..val_133..
b7240	0a 0e 08 01 12 0a 0a 03 08 80 08 0a 03 08 80 02 22 54 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69	................"T.$pkg.onnxscri
b7260	70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 2c 5b 27 62 65 72 74	pt.optimizer.folded_from.,['bert
b7280	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65	.encoder.layer.0.output.dense.we
b72a0	69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 31 33 37 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03	ight']jy..val_137...............
b72c0	08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e	..."\.$pkg.onnxscript.optimizer.
b72e0	66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	folded_from.4['bert.encoder.laye
b7300	72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27	r.1.attention.self.query.weight'
b7320	5d 6a 77 0a 07 76 61 6c 5f 31 34 35 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5a	]jw..val_145.................."Z
b7340	0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65	.$pkg.onnxscript.optimizer.folde
b7360	64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61	d_from.2['bert.encoder.layer.1.a
b7380	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61	ttention.self.key.weight']jy..va
b73a0	6c 5f 31 35 33 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f	l_153.................."\.$pkg.o
b73c0	6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12	nnxscript.optimizer.folded_from.
b73e0	34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f	4['bert.encoder.layer.1.attentio
b7400	6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 77 65 69 67 68 74 27 5d 6a 7b 0a 07 76 61 6c 5f 31 39 34	n.self.value.weight']j{..val_194
b7420	12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5e 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63	.................."^.$pkg.onnxsc
b7440	72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 36 5b 27 62 65	ript.optimizer.folded_from.6['be
b7460	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.1.attention.out
b7480	70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c 5f 31 39 38 12 10 0a	put.dense.weight']jw..val_198...
b74a0	0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 08 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70	..............."Z.$pkg.onnxscrip
b74c0	74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e	t.optimizer.folded_from.2['bert.
b74e0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.1.intermediate.den
b7500	73 65 2e 77 65 69 67 68 74 27 5d 6a 71 0a 07 76 61 6c 5f 32 30 37 12 10 0a 0e 08 01 12 0a 0a 03	se.weight']jq..val_207..........
b7520	08 80 08 0a 03 08 80 02 22 54 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d	........"T.$pkg.onnxscript.optim
b7540	69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 2c 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	izer.folded_from.,['bert.encoder
b7560	2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 79	.layer.1.output.dense.weight']jy
b7580	0a 07 76 61 6c 5f 32 31 31 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70	..val_211.................."\.$p
b75a0	6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66	kg.onnxscript.optimizer.folded_f
b75c0	72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	rom.4['bert.encoder.layer.2.atte
b75e0	6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c	ntion.self.query.weight']jw..val
b7600	5f 32 31 39 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5a 0a 24 70 6b 67 2e 6f 6e	_219.................."Z.$pkg.on
b7620	6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32	nxscript.optimizer.folded_from.2
b7640	5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e	['bert.encoder.layer.2.attention
b7660	2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 32 32 37 12 10 0a	.self.key.weight']jy..val_227...
b7680	0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70	..............."\.$pkg.onnxscrip
b76a0	74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e	t.optimizer.folded_from.4['bert.
b76c0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76	encoder.layer.2.attention.self.v
b76e0	61 6c 75 65 2e 77 65 69 67 68 74 27 5d 6a 7b 0a 07 76 61 6c 5f 32 36 38 12 10 0a 0e 08 01 12 0a	alue.weight']j{..val_268........
b7700	0a 03 08 80 02 0a 03 08 80 02 22 5e 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74	.........."^.$pkg.onnxscript.opt
b7720	69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 36 5b 27 62 65 72 74 2e 65 6e 63 6f 64	imizer.folded_from.6['bert.encod
b7740	65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73	er.layer.2.attention.output.dens
b7760	65 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c 5f 32 37 32 12 10 0a 0e 08 01 12 0a 0a 03 08	e.weight']jw..val_272...........
b7780	80 02 0a 03 08 80 08 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69	......."Z.$pkg.onnxscript.optimi
b77a0	7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	zer.folded_from.2['bert.encoder.
b77c0	6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 77 65 69 67 68	layer.2.intermediate.dense.weigh
b77e0	74 27 5d 6a 71 0a 07 76 61 6c 5f 32 38 31 12 10 0a 0e 08 01 12 0a 0a 03 08 80 08 0a 03 08 80 02	t']jq..val_281..................
b7800	22 54 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c	"T.$pkg.onnxscript.optimizer.fol
b7820	64 65 64 5f 66 72 6f 6d 12 2c 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32	ded_from.,['bert.encoder.layer.2
b7840	2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 32 38	.output.dense.weight']jy..val_28
b7860	35 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73	5.................."\.$pkg.onnxs
b7880	63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62	cript.optimizer.folded_from.4['b
b78a0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
b78c0	6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c 5f 32 39 33 12 10 0a 0e	lf.query.weight']jw..val_293....
b78e0	08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74	.............."Z.$pkg.onnxscript
b7900	2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65	.optimizer.folded_from.2['bert.e
b7920	6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65	ncoder.layer.3.attention.self.ke
b7940	79 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 33 30 31 12 10 0a 0e 08 01 12 0a 0a 03 08	y.weight']jy..val_301...........
b7960	80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69	......."\.$pkg.onnxscript.optimi
b7980	7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	zer.folded_from.4['bert.encoder.
b79a0	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 77 65 69	layer.3.attention.self.value.wei
b79c0	67 68 74 27 5d 6a 7b 0a 07 76 61 6c 5f 33 34 32 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08	ght']j{..val_342................
b79e0	80 02 22 5e 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66	.."^.$pkg.onnxscript.optimizer.f
b7a00	6f 6c 64 65 64 5f 66 72 6f 6d 12 36 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72	olded_from.6['bert.encoder.layer
b7a20	2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74	.3.attention.output.dense.weight
b7a40	27 5d 6a 77 0a 07 76 61 6c 5f 33 34 36 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 08 22	']jw..val_346.................."
b7a60	5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64	Z.$pkg.onnxscript.optimizer.fold
b7a80	65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e	ed_from.2['bert.encoder.layer.3.
b7aa0	69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 71 0a 07 76	intermediate.dense.weight']jq..v
b7ac0	61 6c 5f 33 35 35 12 10 0a 0e 08 01 12 0a 0a 03 08 80 08 0a 03 08 80 02 22 54 0a 24 70 6b 67 2e	al_355.................."T.$pkg.
b7ae0	6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d	onnxscript.optimizer.folded_from
b7b00	12 2c 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e	.,['bert.encoder.layer.3.output.
b7b20	64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 33 35 39 12 10 0a 0e 08 01 12	dense.weight']jy..val_359.......
b7b40	0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70	..........."\.$pkg.onnxscript.op
b7b60	74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f	timizer.folded_from.4['bert.enco
b7b80	64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79	der.layer.4.attention.self.query
b7ba0	2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c 5f 33 36 37 12 10 0a 0e 08 01 12 0a 0a 03 08 80	.weight']jw..val_367............
b7bc0	02 0a 03 08 80 02 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a	......"Z.$pkg.onnxscript.optimiz
b7be0	65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c	er.folded_from.2['bert.encoder.l
b7c00	61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68 74	ayer.4.attention.self.key.weight
b7c20	27 5d 6a 79 0a 07 76 61 6c 5f 33 37 35 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22	']jy..val_375.................."
b7c40	5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64	\.$pkg.onnxscript.optimizer.fold
b7c60	65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e	ed_from.4['bert.encoder.layer.4.
b7c80	61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 77 65 69 67 68 74 27 5d 6a 7b 0a	attention.self.value.weight']j{.
b7ca0	07 76 61 6c 5f 34 31 36 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5e 0a 24 70 6b	.val_416.................."^.$pk
b7cc0	67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72	g.onnxscript.optimizer.folded_fr
b7ce0	6f 6d 12 36 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e	om.6['bert.encoder.layer.4.atten
b7d00	74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61	tion.output.dense.weight']jw..va
b7d20	6c 5f 34 32 30 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 08 22 5a 0a 24 70 6b 67 2e 6f	l_420.................."Z.$pkg.o
b7d40	6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12	nnxscript.optimizer.folded_from.
b7d60	32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64	2['bert.encoder.layer.4.intermed
b7d80	69 61 74 65 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 71 0a 07 76 61 6c 5f 34 32 39 12 10	iate.dense.weight']jq..val_429..
b7da0	0a 0e 08 01 12 0a 0a 03 08 80 08 0a 03 08 80 02 22 54 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69	................"T.$pkg.onnxscri
b7dc0	70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 2c 5b 27 62 65 72 74	pt.optimizer.folded_from.,['bert
b7de0	2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65	.encoder.layer.4.output.dense.we
b7e00	69 67 68 74 27 5d 6a 79 0a 07 76 61 6c 5f 34 33 33 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03	ight']jy..val_433...............
b7e20	08 80 02 22 5c 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e	..."\.$pkg.onnxscript.optimizer.
b7e40	66 6f 6c 64 65 64 5f 66 72 6f 6d 12 34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	folded_from.4['bert.encoder.laye
b7e60	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27	r.5.attention.self.query.weight'
b7e80	5d 6a 77 0a 07 76 61 6c 5f 34 34 31 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5a	]jw..val_441.................."Z
b7ea0	0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65	.$pkg.onnxscript.optimizer.folde
b7ec0	64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61	d_from.2['bert.encoder.layer.5.a
b7ee0	74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68 74 27 5d 6a 79 0a 07 76 61	ttention.self.key.weight']jy..va
b7f00	6c 5f 34 34 39 12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5c 0a 24 70 6b 67 2e 6f	l_449.................."\.$pkg.o
b7f20	6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12	nnxscript.optimizer.folded_from.
b7f40	34 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f	4['bert.encoder.layer.5.attentio
b7f60	6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 77 65 69 67 68 74 27 5d 6a 7b 0a 07 76 61 6c 5f 34 39 30	n.self.value.weight']j{..val_490
b7f80	12 10 0a 0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 02 22 5e 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63	.................."^.$pkg.onnxsc
b7fa0	72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 36 5b 27 62 65	ript.optimizer.folded_from.6['be
b7fc0	72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75 74	rt.encoder.layer.5.attention.out
b7fe0	70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 77 0a 07 76 61 6c 5f 34 39 34 12 10 0a	put.dense.weight']jw..val_494...
b8000	0e 08 01 12 0a 0a 03 08 80 02 0a 03 08 80 08 22 5a 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70	..............."Z.$pkg.onnxscrip
b8020	74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 32 5b 27 62 65 72 74 2e	t.optimizer.folded_from.2['bert.
b8040	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.5.intermediate.den
b8060	73 65 2e 77 65 69 67 68 74 27 5d 6a 71 0a 07 76 61 6c 5f 35 30 33 12 10 0a 0e 08 01 12 0a 0a 03	se.weight']jq..val_503..........
b8080	08 80 08 0a 03 08 80 02 22 54 0a 24 70 6b 67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d	........"T.$pkg.onnxscript.optim
b80a0	69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72 6f 6d 12 2c 5b 27 62 65 72 74 2e 65 6e 63 6f 64 65 72	izer.folded_from.,['bert.encoder
b80c0	2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 5d 6a 59	.layer.5.output.dense.weight']jY
b80e0	0a 07 76 61 6c 5f 35 30 37 12 0f 0a 0d 08 01 12 09 0a 03 08 80 02 0a 02 08 0b 22 3d 0a 24 70 6b	..val_507................."=.$pk
b8100	67 2e 6f 6e 6e 78 73 63 72 69 70 74 2e 6f 70 74 69 6d 69 7a 65 72 2e 66 6f 6c 64 65 64 5f 66 72	g.onnxscript.optimizer.folded_fr
b8120	6f 6d 12 15 5b 27 63 6c 61 73 73 69 66 69 65 72 2e 77 65 69 67 68 74 27 5d 6a 15 0a 07 76 61 6c	om..['classifier.weight']j...val
b8140	5f 35 30 39 12 0a 0a 08 08 07 12 04 0a 02 08 02 6a 14 0a 06 76 61 6c 5f 36 35 12 0a 0a 08 08 07	_509............j...val_65......
b8160	12 04 0a 02 08 01 6a 14 0a 06 76 61 6c 5f 36 36 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 14 0a 06	......j...val_66............j...
b8180	76 61 6c 5f 36 37 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 14 0a 06 76 61 6c 5f 39 35 12 0a 0a 08	val_67............j...val_95....
b81a0	08 07 12 04 0a 02 08 01 6a 14 0a 06 76 61 6c 5f 39 38 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15	........j...val_98............j.
b81c0	0a 07 76 61 6c 5f 31 30 30 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 31 31 38	..val_100............j...val_118
b81e0	12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 11 0a 07 76 61 6c 5f 31 32 36 12 06 0a 04 08 01 12 00 6a	............j...val_126........j
b8200	11 0a 07 76 61 6c 5f 31 33 31 12 06 0a 04 08 01 12 00 6a 13 0a 05 76 61 6c 5f 30 12 0a 0a 08 08	...val_131........j...val_0.....
b8220	07 12 04 0a 02 08 01 6a 13 0a 05 76 61 6c 5f 31 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 13 0a 05	.......j...val_1............j...
b8240	76 61 6c 5f 32 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 1c 0a 07 73 6c 69 63 65 5f 31 12 11 0a 0f	val_2............j...slice_1....
b8260	08 07 12 0b 0a 02 08 01 0a 05 12 03 73 35 33 6a 14 0a 06 76 61 6c 5f 31 35 12 0a 0a 08 08 07 12	............s53j...val_15.......
b8280	04 0a 02 08 02 6a 1e 0a 06 65 78 70 61 6e 64 12 14 0a 12 08 07 12 0e 0a 05 12 03 73 37 32 0a 05	.....j...expand............s72..
b82a0	12 03 73 35 33 6a 1c 0a 07 73 6c 69 63 65 5f 32 12 11 0a 0f 08 07 12 0b 0a 02 08 01 0a 05 12 03	..s53j...slice_2................
b82c0	73 35 33 6a 26 0a 09 65 6d 62 65 64 64 69 6e 67 12 19 0a 17 08 01 12 13 0a 05 12 03 73 37 32 0a	s53j&..embedding............s72.
b82e0	05 12 03 73 35 33 0a 03 08 80 02 6a 28 0a 0b 65 6d 62 65 64 64 69 6e 67 5f 31 12 19 0a 17 08 01	...s53.....j(..embedding_1......
b8300	12 13 0a 05 12 03 73 37 32 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 61 64 64 5f 31 35 12	......s72....s53.....j#..add_15.
b8320	19 0a 17 08 01 12 13 0a 05 12 03 73 37 32 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 25 0a 0b 65 6d	...........s72....s53.....j%..em
b8340	62 65 64 64 69 6e 67 5f 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80	bedding_2................s53....
b8360	02 6a 20 0a 06 61 64 64 5f 33 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03	.j...add_30................s53..
b8380	08 80 02 6a 24 0a 0a 6c 61 79 65 72 5f 6e 6f 72 6d 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12	...j$..layer_norm...............
b83a0	03 73 35 33 0a 03 08 80 02 6a 2b 0a 0b 75 6e 73 71 75 65 65 7a 65 5f 31 12 1c 0a 1a 08 07 12 16	.s53.....j+..unsqueeze_1........
b83c0	0a 05 12 03 73 34 33 0a 02 08 01 0a 02 08 01 0a 05 12 03 73 35 33 6a 14 0a 06 76 61 6c 5f 35 38	....s43............s53j...val_58
b83e0	12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 2b 0a 08 65 78 70 61 6e 64 5f 31 12 1f 0a 1d 08 07 12 19	............j+..expand_1........
b8400	0a 05 12 03 73 34 33 0a 02 08 01 0a 05 12 03 73 35 33 0a 05 12 03 73 35 33 6a 2b 0a 08 5f 74 6f	....s43........s53....s53j+.._to
b8420	5f 63 6f 70 79 12 1f 0a 1d 08 01 12 19 0a 05 12 03 73 34 33 0a 02 08 01 0a 05 12 03 73 35 33 0a	_copy............s43........s53.
b8440	05 12 03 73 35 33 6a 29 0a 06 73 75 62 5f 33 31 12 1f 0a 1d 08 01 12 19 0a 05 12 03 73 34 33 0a	...s53j)..sub_31............s43.
b8460	02 08 01 0a 05 12 03 73 35 33 0a 05 12 03 73 35 33 6a 2d 0a 0a 5f 74 6f 5f 63 6f 70 79 5f 31 12	.......s53....s53j-.._to_copy_1.
b8480	1f 0a 1d 08 09 12 19 0a 05 12 03 73 34 33 0a 02 08 01 0a 05 12 03 73 35 33 0a 05 12 03 73 35 33	...........s43........s53....s53
b84a0	6a 2e 0a 0b 6d 61 73 6b 65 64 5f 66 69 6c 6c 12 1f 0a 1d 08 01 12 19 0a 05 12 03 73 34 33 0a 02	j...masked_fill............s43..
b84c0	08 01 0a 05 12 03 73 35 33 0a 05 12 03 73 35 33 6a 20 0a 06 76 61 6c 5f 36 32 12 16 0a 14 08 01	......s53....s53j...val_62......
b84e0	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 20 0a 06 6c 69 6e 65 61 72 12 16 0a 14	..........s53.....j...linear....
b8500	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 14 0a 06 76 61 6c 5f 36 38 12 0a	............s53.....j...val_68..
b8520	0a 08 08 07 12 04 0a 02 08 04 6a 21 0a 04 76 69 65 77 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05	..........j!..view..............
b8540	12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 26 0a 09 74 72 61 6e 73 70 6f 73 65 12 19 0a 17 08 01	..s53........j&..transpose......
b8560	12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 20 0a 06 76 61 6c 5f 37 30 12	..............s53....j...val_70.
b8580	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22 0a 08 6c 69 6e 65 61	...............s53.....j"..linea
b85a0	72 5f 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76	r_1................s53.....j#..v
b85c0	69 65 77 5f 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20	iew_1................s53........
b85e0	6a 28 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a	j(..transpose_1.................
b8600	05 12 03 73 35 33 0a 02 08 20 6a 20 0a 06 76 61 6c 5f 37 38 12 16 0a 14 08 01 12 10 0a 02 08 01	...s53....j...val_78............
b8620	0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22 0a 08 6c 69 6e 65 61 72 5f 32 12 16 0a 14 08 01 12 10	....s53.....j"..linear_2........
b8640	0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76 69 65 77 5f 32 12 19 0a 17 08 01	........s53.....j#..view_2......
b8660	12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73 70 6f	..........s53........j(..transpo
b8680	73 65 5f 32 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a	se_2....................s53....j
b86a0	14 0a 06 76 61 6c 5f 39 34 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 14 0a 06 76 61 6c 5f 39 37 12	...val_94............j...val_97.
b86c0	0a 0a 08 08 07 12 04 0a 02 08 01 6a 14 0a 06 76 61 6c 5f 39 39 12 0a 0a 08 08 07 12 04 0a 02 08	...........j...val_99...........
b86e0	01 6a 15 0a 07 76 61 6c 5f 31 30 31 12 0a 0a 08 08 07 12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f	.j...val_101............j...val_
b8700	31 30 33 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 17 0a 07 76 61 6c 5f 31 30 34 12 0c 0a 0a 08 01	103............j...val_104......
b8720	12 06 0a 00 0a 00 0a 00 6a 17 0a 07 76 61 6c 5f 31 30 35 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a	........j...val_105.............
b8740	00 6a 15 0a 07 76 61 6c 5f 31 30 36 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f	.j...val_106............j...val_
b8760	31 30 37 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 24 0a 07 76 61 6c 5f 31 30 39 12 19	107................j$..val_109..
b8780	0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c	..................s53....j...val
b87a0	5f 31 31 31 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 20 0a 07 76 61 6c 5f 31 31 32 12	_111................j...val_112.
b87c0	15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 31 31	.................s53..j...val_11
b87e0	33 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f	3..................s53..j...val_
b8800	31 31 34 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 39 0a 1c 73 63	114..................s53..j9..sc
b8820	61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 12 19 0a 17 08 01	aled_dot_product_attention......
b8840	12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73 70 6f	..............s53....j(..transpo
b8860	73 65 5f 33 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a	se_3................s53........j
b8880	15 0a 07 76 61 6c 5f 31 31 39 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 20 0a 06 76 69 65 77 5f 33	...val_119............j...view_3
b88a0	12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f	................s53.....j!..val_
b88c0	31 32 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22 0a 08 6c	121................s53.....j"..l
b88e0	69 6e 65 61 72 5f 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a	inear_3................s53.....j
b8900	21 0a 07 61 64 64 5f 31 32 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08	!..add_128................s53...
b8920	80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05	..j&..layer_norm_1..............
b8940	12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 31 32 35 12 16 0a 14 08 01 12 10 0a 02 08	..s53.....j!..val_125...........
b8960	01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 22 0a 08 6c 69 6e 65 61 72 5f 34 12 16 0a 14 08 01 12	.....s53.....j"..linear_4.......
b8980	10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 31 32 37 12 16 0a 14	.........s53.....j!..val_127....
b89a0	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 31 32 38 12	............s53.....j!..val_128.
b89c0	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 31	...............s53.....j!..val_1
b89e0	33 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61	30................s53.....j!..va
b8a00	6c 5f 31 33 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 1e 0a	l_132................s53.....j..
b8a20	04 67 65 6c 75 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a	.gelu................s53.....j!.
b8a40	07 76 61 6c 5f 31 33 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02	.val_134................s53.....
b8a60	6a 22 0a 08 6c 69 6e 65 61 72 5f 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	j"..linear_5................s53.
b8a80	03 08 80 02 6a 21 0a 07 61 64 64 5f 31 34 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73	....j!..add_147................s
b8aa0	35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 32 12 16 0a 14 08 01 12 10 0a	53.....j&..layer_norm_2.........
b8ac0	02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 31 33 38 12 16 0a 14 08 01	.......s53.....j!..val_138......
b8ae0	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22 0a 08 6c 69 6e 65 61 72 5f 36 12 16	..........s53.....j"..linear_6..
b8b00	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76 69 65 77 5f 34	..............s53.....j#..view_4
b8b20	12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 28 0a 0b 74	................s53........j(..t
b8b40	72 61 6e 73 70 6f 73 65 5f 34 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35	ranspose_4....................s5
b8b60	33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f 31 34 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03	3....j!..val_146................
b8b80	73 35 33 0a 03 08 80 02 6a 22 0a 08 6c 69 6e 65 61 72 5f 37 12 16 0a 14 08 01 12 10 0a 02 08 01	s53.....j"..linear_7............
b8ba0	0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76 69 65 77 5f 35 12 19 0a 17 08 01 12 13 0a 02	....s53.....j#..view_5..........
b8bc0	08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 35	......s53........j(..transpose_5
b8be0	12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76	....................s53....j!..v
b8c00	61 6c 5f 31 35 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22	al_154................s53.....j"
b8c20	0a 08 6c 69 6e 65 61 72 5f 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08	..linear_8................s53...
b8c40	80 02 6a 23 0a 06 76 69 65 77 5f 36 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a	..j#..view_6................s53.
b8c60	02 08 08 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 36 12 19 0a 17 08 01 12 13 0a 02	.......j(..transpose_6..........
b8c80	08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 15 0a 07 76 61 6c 5f 31 37 30 12 0a 0a 08	..........s53....j...val_170....
b8ca0	08 07 12 04 0a 02 08 04 6a 15 0a 07 76 61 6c 5f 31 37 32 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a	........j...val_172............j
b8cc0	15 0a 07 76 61 6c 5f 31 37 33 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 31 37	...val_173............j...val_17
b8ce0	35 12 0a 0a 08 08 07 12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f 31 37 37 12 0a 0a 08 08 07 12 04	5............j...val_177........
b8d00	0a 02 08 03 6a 17 0a 07 76 61 6c 5f 31 37 38 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 17 0a	....j...val_178..............j..
b8d20	07 76 61 6c 5f 31 37 39 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 15 0a 07 76 61 6c 5f 31 38	.val_179..............j...val_18
b8d40	30 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f 31 38 31 12 0e 0a 0c 08 01 12 08	0............j...val_181........
b8d60	0a 00 0a 00 0a 00 0a 00 6a 24 0a 07 76 61 6c 5f 31 38 33 12 19 0a 17 08 01 12 13 0a 02 08 01 0a	........j$..val_183.............
b8d80	02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c 5f 31 38 35 12 0e 0a 0c 08 01 12	.......s53....j...val_185.......
b8da0	08 0a 00 0a 00 0a 00 0a 00 6a 20 0a 07 76 61 6c 5f 31 38 36 12 15 0a 13 08 01 12 0f 0a 00 0a 02	.........j...val_186............
b8dc0	08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 31 38 37 12 15 0a 13 08 01 12 0f 0a 00	......s53..j...val_187..........
b8de0	0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 31 38 38 12 15 0a 13 08 01 12 0f	........s53..j...val_188........
b8e00	0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 3b 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72	..........s53..j;..scaled_dot_pr
b8e20	6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08	oduct_attention_1...............
b8e40	08 0a 05 12 03 73 35 33 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 37 12 19 0a 17 08	.....s53....j(..transpose_7.....
b8e60	01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 20 0a 06 76 69 65 77 5f 37	...........s53........j...view_7
b8e80	12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f	................s53.....j!..val_
b8ea0	31 39 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 22 0a 08 6c	195................s53.....j"..l
b8ec0	69 6e 65 61 72 5f 39 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a	inear_9................s53.....j
b8ee0	21 0a 07 61 64 64 5f 32 30 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08	!..add_200................s53...
b8f00	80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05	..j&..layer_norm_3..............
b8f20	12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 31 39 39 12 16 0a 14 08 01 12 10 0a 02 08	..s53.....j!..val_199...........
b8f40	01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 30 12 16 0a 14 08 01	.....s53.....j#..linear_10......
b8f60	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 32 30 31 12 16 0a	..........s53.....j!..val_201...
b8f80	14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 32 30 32	.............s53.....j!..val_202
b8fa0	12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f	................s53.....j!..val_
b8fc0	32 30 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76	204................s53.....j!..v
b8fe0	61 6c 5f 32 30 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 20	al_206................s53.....j.
b9000	0a 06 67 65 6c 75 5f 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08	..gelu_1................s53.....
b9020	6a 21 0a 07 76 61 6c 5f 32 30 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03	j!..val_208................s53..
b9040	08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03	...j#..linear_11................
b9060	73 35 33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 32 31 39 12 16 0a 14 08 01 12 10 0a 02 08 01 0a	s53.....j!..add_219.............
b9080	05 12 03 73 35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 34 12 16 0a 14 08	...s53.....j&..layer_norm_4.....
b90a0	01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 32 31 32 12 16	...........s53.....j!..val_212..
b90c0	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72	..............s53.....j#..linear
b90e0	5f 31 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76	_12................s53.....j#..v
b9100	69 65 77 5f 38 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20	iew_8................s53........
b9120	6a 28 0a 0b 74 72 61 6e 73 70 6f 73 65 5f 38 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a	j(..transpose_8.................
b9140	05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f 32 32 30 12 16 0a 14 08 01 12 10 0a 02 08	...s53....j!..val_220...........
b9160	01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 33 12 16 0a 14 08 01	.....s53.....j#..linear_13......
b9180	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 06 76 69 65 77 5f 39 12 19 0a 17	..........s53.....j#..view_9....
b91a0	08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 28 0a 0b 74 72 61 6e 73	............s53........j(..trans
b91c0	70 6f 73 65 5f 39 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08	pose_9....................s53...
b91e0	20 6a 21 0a 07 76 61 6c 5f 32 32 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	.j!..val_228................s53.
b9200	03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12	....j#..linear_14...............
b9220	03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f 31 30 12 19 0a 17 08 01 12 13 0a 02 08 01	.s53.....j$..view_10............
b9240	0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 30 12	....s53........j)..transpose_10.
b9260	19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 15 0a 07 76 61	...................s53....j...va
b9280	6c 5f 32 34 34 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 15 0a 07 76 61 6c 5f 32 34 36 12 0a 0a 08	l_244............j...val_246....
b92a0	08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 32 34 37 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a	........j...val_247............j
b92c0	15 0a 07 76 61 6c 5f 32 34 39 12 0a 0a 08 08 07 12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f 32 35	...val_249............j...val_25
b92e0	31 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 17 0a 07 76 61 6c 5f 32 35 32 12 0c 0a 0a 08 01 12 06	1............j...val_252........
b9300	0a 00 0a 00 0a 00 6a 17 0a 07 76 61 6c 5f 32 35 33 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a	......j...val_253..............j
b9320	15 0a 07 76 61 6c 5f 32 35 34 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f 32 35	...val_254............j...val_25
b9340	35 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 24 0a 07 76 61 6c 5f 32 35 37 12 19 0a 17	5................j$..val_257....
b9360	08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c 5f 32	................s53....j...val_2
b9380	35 39 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 20 0a 07 76 61 6c 5f 32 36 30 12 15 0a	59................j...val_260...
b93a0	13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 32 36 31 12	...............s53..j...val_261.
b93c0	15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 32 36	.................s53..j...val_26
b93e0	32 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 3b 0a 1e 73 63 61 6c	2..................s53..j;..scal
b9400	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 32 12 19 0a 17 08 01	ed_dot_product_attention_2......
b9420	12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f	..............s53....j)..transpo
b9440	73 65 5f 31 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20	se_11................s53........
b9460	6a 21 0a 07 76 69 65 77 5f 31 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03	j!..view_11................s53..
b9480	08 80 02 6a 21 0a 07 76 61 6c 5f 32 36 39 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35	...j!..val_269................s5
b94a0	33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a	3.....j#..linear_15.............
b94c0	05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 32 37 32 12 16 0a 14 08 01 12 10 0a 02	...s53.....j!..add_272..........
b94e0	08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 35 12 16	......s53.....j&..layer_norm_5..
b9500	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 32 37	..............s53.....j!..val_27
b9520	33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 23 0a 09 6c 69 6e	3................s53.....j#..lin
b9540	65 61 72 5f 31 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21	ear_16................s53.....j!
b9560	0a 07 76 61 6c 5f 32 37 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80	..val_275................s53....
b9580	08 6a 21 0a 07 76 61 6c 5f 32 37 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	.j!..val_276................s53.
b95a0	03 08 80 08 6a 21 0a 07 76 61 6c 5f 32 37 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73	....j!..val_278................s
b95c0	35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 32 38 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05	53.....j!..val_280..............
b95e0	12 03 73 35 33 0a 03 08 80 08 6a 20 0a 06 67 65 6c 75 5f 32 12 16 0a 14 08 01 12 10 0a 02 08 01	..s53.....j...gelu_2............
b9600	0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 32 38 32 12 16 0a 14 08 01 12 10 0a	....s53.....j!..val_282.........
b9620	02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 37 12 16 0a 14	.......s53.....j#..linear_17....
b9640	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 32 39 31 12	............s53.....j!..add_291.
b9660	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72	...............s53.....j&..layer
b9680	5f 6e 6f 72 6d 5f 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a	_norm_6................s53.....j
b96a0	21 0a 07 76 61 6c 5f 32 38 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08	!..val_286................s53...
b96c0	80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 31 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73	..j#..linear_18................s
b96e0	35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f 31 32 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05	53.....j$..view_12..............
b9700	12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 32 12 19 0a	..s53........j)..transpose_12...
b9720	17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f	.................s53....j!..val_
b9740	32 39 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c	294................s53.....j#..l
b9760	69 6e 65 61 72 5f 31 39 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02	inear_19................s53.....
b9780	6a 24 0a 07 76 69 65 77 5f 31 33 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02	j$..view_13................s53..
b97a0	08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 33 12 19 0a 17 08 01 12 13 0a 02	......j)..transpose_13..........
b97c0	08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f 33 30 32 12 16 0a 14	..........s53....j!..val_302....
b97e0	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32	............s53.....j#..linear_2
b9800	30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65	0................s53.....j$..vie
b9820	77 5f 31 34 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a	w_14................s53........j
b9840	29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 34 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a	)..transpose_14.................
b9860	05 12 03 73 35 33 0a 02 08 20 6a 15 0a 07 76 61 6c 5f 33 31 38 12 0a 0a 08 08 07 12 04 0a 02 08	...s53....j...val_318...........
b9880	04 6a 15 0a 07 76 61 6c 5f 33 32 30 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f	.j...val_320............j...val_
b98a0	33 32 31 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 33 32 33 12 0a 0a 08 08 07	321............j...val_323......
b98c0	12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f 33 32 35 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 17 0a	......j...val_325............j..
b98e0	07 76 61 6c 5f 33 32 36 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 17 0a 07 76 61 6c 5f 33 32	.val_326..............j...val_32
b9900	37 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 15 0a 07 76 61 6c 5f 33 32 38 12 0a 0a 08 08 07	7..............j...val_328......
b9920	12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f 33 32 39 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a	......j...val_329...............
b9940	00 6a 24 0a 07 76 61 6c 5f 33 33 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03	.j$..val_331....................
b9960	73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c 5f 33 33 33 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00	s53....j...val_333..............
b9980	0a 00 6a 20 0a 07 76 61 6c 5f 33 33 34 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73	..j...val_334..................s
b99a0	35 33 0a 00 6a 20 0a 07 76 61 6c 5f 33 33 35 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12	53..j...val_335.................
b99c0	03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 33 33 36 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a	.s53..j...val_336...............
b99e0	05 12 03 73 35 33 0a 00 6a 3b 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61	...s53..j;..scaled_dot_product_a
b9a00	74 74 65 6e 74 69 6f 6e 5f 33 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35	ttention_3....................s5
b9a20	33 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 35 12 19 0a 17 08 01 12 13 0a 02 08	3....j)..transpose_15...........
b9a40	01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 21 0a 07 76 69 65 77 5f 31 35 12 16 0a 14 08	.....s53........j!..view_15.....
b9a60	01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 33 34 33 12 16	...........s53.....j!..val_343..
b9a80	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72	..............s53.....j#..linear
b9aa0	5f 32 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 61	_21................s53.....j!..a
b9ac0	64 64 5f 33 34 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 26	dd_344................s53.....j&
b9ae0	0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35	..layer_norm_7................s5
b9b00	33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 33 34 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12	3.....j!..val_347...............
b9b20	03 73 35 33 0a 03 08 80 08 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 32 12 16 0a 14 08 01 12 10 0a 02	.s53.....j#..linear_22..........
b9b40	08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 33 34 39 12 16 0a 14 08 01 12	......s53.....j!..val_349.......
b9b60	10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 33 35 30 12 16 0a 14	.........s53.....j!..val_350....
b9b80	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 33 35 32 12	............s53.....j!..val_352.
b9ba0	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 33	...............s53.....j!..val_3
b9bc0	35 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 20 0a 06 67 65	54................s53.....j...ge
b9be0	6c 75 5f 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07	lu_3................s53.....j!..
b9c00	76 61 6c 5f 33 35 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a	val_356................s53.....j
b9c20	23 0a 09 6c 69 6e 65 61 72 5f 32 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	#..linear_23................s53.
b9c40	03 08 80 02 6a 21 0a 07 61 64 64 5f 33 36 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73	....j!..add_363................s
b9c60	35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 38 12 16 0a 14 08 01 12 10 0a	53.....j&..layer_norm_8.........
b9c80	02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 33 36 30 12 16 0a 14 08 01	.......s53.....j!..val_360......
b9ca0	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 34 12	..........s53.....j#..linear_24.
b9cc0	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f	...............s53.....j$..view_
b9ce0	31 36 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a	16................s53........j).
b9d00	0c 74 72 61 6e 73 70 6f 73 65 5f 31 36 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12	.transpose_16...................
b9d20	03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f 33 36 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a	.s53....j!..val_368.............
b9d40	05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 35 12 16 0a 14 08 01 12 10	...s53.....j#..linear_25........
b9d60	0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f 31 37 12 19 0a 17 08	........s53.....j$..view_17.....
b9d80	01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70	...........s53........j)..transp
b9da0	6f 73 65 5f 31 37 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08	ose_17....................s53...
b9dc0	20 6a 21 0a 07 76 61 6c 5f 33 37 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	.j!..val_376................s53.
b9de0	03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12	....j#..linear_26...............
b9e00	03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f 31 38 12 19 0a 17 08 01 12 13 0a 02 08 01	.s53.....j$..view_18............
b9e20	0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 31 38 12	....s53........j)..transpose_18.
b9e40	19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 15 0a 07 76 61	...................s53....j...va
b9e60	6c 5f 33 39 32 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 15 0a 07 76 61 6c 5f 33 39 34 12 0a 0a 08	l_392............j...val_394....
b9e80	08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 33 39 35 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a	........j...val_395............j
b9ea0	15 0a 07 76 61 6c 5f 33 39 37 12 0a 0a 08 08 07 12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f 33 39	...val_397............j...val_39
b9ec0	39 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 17 0a 07 76 61 6c 5f 34 30 30 12 0c 0a 0a 08 01 12 06	9............j...val_400........
b9ee0	0a 00 0a 00 0a 00 6a 17 0a 07 76 61 6c 5f 34 30 31 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a	......j...val_401..............j
b9f00	15 0a 07 76 61 6c 5f 34 30 32 12 0a 0a 08 08 07 12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f 34 30	...val_402............j...val_40
b9f20	33 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 24 0a 07 76 61 6c 5f 34 30 35 12 19 0a 17	3................j$..val_405....
b9f40	08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c 5f 34	................s53....j...val_4
b9f60	30 37 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00 0a 00 6a 20 0a 07 76 61 6c 5f 34 30 38 12 15 0a	07................j...val_408...
b9f80	13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 34 30 39 12	...............s53..j...val_409.
b9fa0	15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 34 31	.................s53..j...val_41
b9fc0	30 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03 73 35 33 0a 00 6a 3b 0a 1e 73 63 61 6c	0..................s53..j;..scal
b9fe0	65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f 61 74 74 65 6e 74 69 6f 6e 5f 34 12 19 0a 17 08 01	ed_dot_product_attention_4......
ba000	12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f	..............s53....j)..transpo
ba020	73 65 5f 31 39 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20	se_19................s53........
ba040	6a 21 0a 07 76 69 65 77 5f 31 39 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03	j!..view_19................s53..
ba060	08 80 02 6a 21 0a 07 76 61 6c 5f 34 31 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35	...j!..val_417................s5
ba080	33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a	3.....j#..linear_27.............
ba0a0	05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 34 31 36 12 16 0a 14 08 01 12 10 0a 02	...s53.....j!..add_416..........
ba0c0	08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 26 0a 0c 6c 61 79 65 72 5f 6e 6f 72 6d 5f 39 12 16	......s53.....j&..layer_norm_9..
ba0e0	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 34 32	..............s53.....j!..val_42
ba100	31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 23 0a 09 6c 69 6e	1................s53.....j#..lin
ba120	65 61 72 5f 32 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21	ear_28................s53.....j!
ba140	0a 07 76 61 6c 5f 34 32 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80	..val_423................s53....
ba160	08 6a 21 0a 07 76 61 6c 5f 34 32 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a	.j!..val_424................s53.
ba180	03 08 80 08 6a 21 0a 07 76 61 6c 5f 34 32 36 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73	....j!..val_426................s
ba1a0	35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 34 32 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05	53.....j!..val_428..............
ba1c0	12 03 73 35 33 0a 03 08 80 08 6a 20 0a 06 67 65 6c 75 5f 34 12 16 0a 14 08 01 12 10 0a 02 08 01	..s53.....j...gelu_4............
ba1e0	0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 34 33 30 12 16 0a 14 08 01 12 10 0a	....s53.....j!..val_430.........
ba200	02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 32 39 12 16 0a 14	.......s53.....j#..linear_29....
ba220	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 34 33 35 12	............s53.....j!..add_435.
ba240	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 27 0a 0d 6c 61 79 65 72	...............s53.....j'..layer
ba260	5f 6e 6f 72 6d 5f 31 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02	_norm_10................s53.....
ba280	6a 21 0a 07 76 61 6c 5f 34 33 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03	j!..val_434................s53..
ba2a0	08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f 33 30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03	...j#..linear_30................
ba2c0	73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69 65 77 5f 32 30 12 19 0a 17 08 01 12 13 0a 02 08 01 0a	s53.....j$..view_20.............
ba2e0	05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 30 12 19	...s53........j)..transpose_20..
ba300	0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c	..................s53....j!..val
ba320	5f 34 34 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09	_442................s53.....j#..
ba340	6c 69 6e 65 61 72 5f 33 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80	linear_31................s53....
ba360	02 6a 24 0a 07 76 69 65 77 5f 32 31 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a	.j$..view_21................s53.
ba380	02 08 08 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 31 12 19 0a 17 08 01 12 13 0a	.......j)..transpose_21.........
ba3a0	02 08 01 0a 02 08 08 0a 05 12 03 73 35 33 0a 02 08 20 6a 21 0a 07 76 61 6c 5f 34 35 30 12 16 0a	...........s53....j!..val_450...
ba3c0	14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61 72 5f	.............s53.....j#..linear_
ba3e0	33 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 24 0a 07 76 69	32................s53.....j$..vi
ba400	65 77 5f 32 32 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20	ew_22................s53........
ba420	6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 32 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08	j)..transpose_22................
ba440	0a 05 12 03 73 35 33 0a 02 08 20 6a 15 0a 07 76 61 6c 5f 34 36 36 12 0a 0a 08 08 07 12 04 0a 02	....s53....j...val_466..........
ba460	08 04 6a 15 0a 07 76 61 6c 5f 34 36 38 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c	..j...val_468............j...val
ba480	5f 34 36 39 12 0a 0a 08 08 07 12 04 0a 02 08 01 6a 15 0a 07 76 61 6c 5f 34 37 31 12 0a 0a 08 08	_469............j...val_471.....
ba4a0	07 12 04 0a 02 08 02 6a 15 0a 07 76 61 6c 5f 34 37 33 12 0a 0a 08 08 07 12 04 0a 02 08 03 6a 17	.......j...val_473............j.
ba4c0	0a 07 76 61 6c 5f 34 37 34 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 17 0a 07 76 61 6c 5f 34	..val_474..............j...val_4
ba4e0	37 35 12 0c 0a 0a 08 01 12 06 0a 00 0a 00 0a 00 6a 15 0a 07 76 61 6c 5f 34 37 36 12 0a 0a 08 08	75..............j...val_476.....
ba500	07 12 04 0a 02 08 04 6a 19 0a 07 76 61 6c 5f 34 37 37 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a 00	.......j...val_477..............
ba520	0a 00 6a 24 0a 07 76 61 6c 5f 34 37 39 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12	..j$..val_479...................
ba540	03 73 35 33 0a 02 08 20 6a 19 0a 07 76 61 6c 5f 34 38 31 12 0e 0a 0c 08 01 12 08 0a 00 0a 00 0a	.s53....j...val_481.............
ba560	00 0a 00 6a 20 0a 07 76 61 6c 5f 34 38 32 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05 12 03	...j...val_482..................
ba580	73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 34 38 33 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08 0a 05	s53..j...val_483................
ba5a0	12 03 73 35 33 0a 00 6a 20 0a 07 76 61 6c 5f 34 38 34 12 15 0a 13 08 01 12 0f 0a 00 0a 02 08 08	..s53..j...val_484..............
ba5c0	0a 05 12 03 73 35 33 0a 00 6a 3b 0a 1e 73 63 61 6c 65 64 5f 64 6f 74 5f 70 72 6f 64 75 63 74 5f	....s53..j;..scaled_dot_product_
ba5e0	61 74 74 65 6e 74 69 6f 6e 5f 35 12 19 0a 17 08 01 12 13 0a 02 08 01 0a 02 08 08 0a 05 12 03 73	attention_5....................s
ba600	35 33 0a 02 08 20 6a 29 0a 0c 74 72 61 6e 73 70 6f 73 65 5f 32 33 12 19 0a 17 08 01 12 13 0a 02	53....j)..transpose_23..........
ba620	08 01 0a 05 12 03 73 35 33 0a 02 08 08 0a 02 08 20 6a 21 0a 07 76 69 65 77 5f 32 33 12 16 0a 14	......s53........j!..view_23....
ba640	08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 34 39 31 12	............s53.....j!..val_491.
ba660	16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 23 0a 09 6c 69 6e 65 61	...............s53.....j#..linea
ba680	72 5f 33 33 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 21 0a 07	r_33................s53.....j!..
ba6a0	61 64 64 5f 34 38 38 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a	add_488................s53.....j
ba6c0	27 0a 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 31 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03	'..layer_norm_11................
ba6e0	73 35 33 0a 03 08 80 02 6a 21 0a 07 76 61 6c 5f 34 39 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a	s53.....j!..val_495.............
ba700	05 12 03 73 35 33 0a 03 08 80 08 6a 23 0a 09 6c 69 6e 65 61 72 5f 33 34 12 16 0a 14 08 01 12 10	...s53.....j#..linear_34........
ba720	0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 34 39 37 12 16 0a 14 08	........s53.....j!..val_497.....
ba740	01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 34 39 38 12 16	...........s53.....j!..val_498..
ba760	0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c 5f 35 30	..............s53.....j!..val_50
ba780	30 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21 0a 07 76 61 6c	0................s53.....j!..val
ba7a0	5f 35 30 32 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 20 0a 06	_502................s53.....j...
ba7c0	67 65 6c 75 5f 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 08 6a 21	gelu_5................s53.....j!
ba7e0	0a 07 76 61 6c 5f 35 30 34 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80	..val_504................s53....
ba800	02 6a 23 0a 09 6c 69 6e 65 61 72 5f 33 35 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12 03 73 35	.j#..linear_35................s5
ba820	33 0a 03 08 80 02 6a 21 0a 07 61 64 64 5f 35 30 37 12 16 0a 14 08 01 12 10 0a 02 08 01 0a 05 12	3.....j!..add_507...............
ba840	03 73 35 33 0a 03 08 80 02 6a 27 0a 0d 6c 61 79 65 72 5f 6e 6f 72 6d 5f 31 32 12 16 0a 14 08 01	.s53.....j'..layer_norm_12......
ba860	12 10 0a 02 08 01 0a 05 12 03 73 35 33 0a 03 08 80 02 6a 20 0a 07 76 61 6c 5f 35 30 38 12 15 0a	..........s53.....j...val_508...
ba880	13 08 01 12 0f 0a 02 08 01 0a 05 12 03 73 35 33 0a 02 08 0b 82 01 f4 5e 0a 30 70 6b 67 2e 74 6f	.............s53.......^.0pkg.to
ba8a0	72 63 68 2e 65 78 70 6f 72 74 2e 45 78 70 6f 72 74 65 64 50 72 6f 67 72 61 6d 2e 67 72 61 70 68	rch.export.ExportedProgram.graph
ba8c0	5f 73 69 67 6e 61 74 75 72 65 12 bf 5e 0a 23 20 69 6e 70 75 74 73 0a 70 5f 62 65 72 74 5f 65 6d	_signature..^.#.inputs.p_bert_em
ba8e0	62 65 64 64 69 6e 67 73 5f 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 3a	beddings_word_embeddings_weight:
ba900	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e	.PARAMETER.target='bert.embeddin
ba920	67 73 2e 77 6f 72 64 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	gs.word_embeddings.weight'.p_ber
ba940	74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73	t_embeddings_position_embeddings
ba960	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
ba980	65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f 6e 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77	embeddings.position_embeddings.w
ba9a0	65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73 5f 74 6f 6b 65 6e 5f 74	eight'.p_bert_embeddings_token_t
ba9c0	79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ype_embeddings_weight:.PARAMETER
ba9e0	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74	.target='bert.embeddings.token_t
baa00	79 70 65 5f 65 6d 62 65 64 64 69 6e 67 73 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6d	ype_embeddings.weight'.p_bert_em
baa20	62 65 64 64 69 6e 67 73 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d	beddings_layernorm_weight:.PARAM
baa40	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79	ETER.target='bert.embeddings.Lay
baa60	65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6d 62 65 64 64 69 6e 67 73	erNorm.weight'.p_bert_embeddings
baa80	5f 6c 61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65	_layernorm_bias:.PARAMETER.targe
baaa0	74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	t='bert.embeddings.LayerNorm.bia
baac0	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_0_attent
baae0	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bab00	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74	.target='bert.encoder.layer.0.at
bab20	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bab40	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_0_attention_self
bab60	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bab80	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.0.attention.se
baba0	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
babc0	79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_0_attention_self_key_weight:
babe0	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bac00	6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.0.attention.self.key.weigh
bac20	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_0_attent
bac40	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bac60	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74	get='bert.encoder.layer.0.attent
bac80	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
baca0	72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_0_attention_self_value_w
bacc0	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bace0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.0.attention.self.val
bad00	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bad20	30 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	0_attention_self_value_bias:.PAR
bad40	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bad60	72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.0.attention.self.value.bias'.p
bad80	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_0_attention_
bada0	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
badc0	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65	arget='bert.encoder.layer.0.atte
bade0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bae00	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_0_attention_outp
bae20	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bae40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.0.attention.
bae60	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bae80	72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_0_attention_output_layer
baea0	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
baec0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.0.attention.ou
baee0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
baf00	63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_0_attention_output_l
baf20	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
baf40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.0.attention.
baf60	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
baf80	63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_0_intermediate_dense
bafa0	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bafc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.0.intermediate.den
bafe0	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bb000	30 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	0_intermediate_dense_bias:.PARAM
bb020	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bb040	30 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	0.intermediate.dense.bias'.p_ber
bb060	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_0_output_dense_w
bb080	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bb0a0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.0.output.dense.weigh
bb0c0	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_0_output
bb0e0	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bb100	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.0.output.dense
bb120	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75	.bias'.p_bert_encoder_layer_0_ou
bb140	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bb160	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75	.target='bert.encoder.layer.0.ou
bb180	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bb1a0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 30 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_0_output_layernorm_b
bb1c0	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bb1e0	64 65 72 2e 6c 61 79 65 72 2e 30 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.0.output.LayerNorm.bia
bb200	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_1_attent
bb220	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bb240	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74	.target='bert.encoder.layer.1.at
bb260	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bb280	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_1_attention_self
bb2a0	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bb2c0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.1.attention.se
bb2e0	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
bb300	79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_1_attention_self_key_weight:
bb320	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bb340	6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.1.attention.self.key.weigh
bb360	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_1_attent
bb380	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bb3a0	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74	get='bert.encoder.layer.1.attent
bb3c0	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
bb3e0	72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_1_attention_self_value_w
bb400	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bb420	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.1.attention.self.val
bb440	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bb460	31 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	1_attention_self_value_bias:.PAR
bb480	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bb4a0	72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.1.attention.self.value.bias'.p
bb4c0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_1_attention_
bb4e0	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
bb500	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65	arget='bert.encoder.layer.1.atte
bb520	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bb540	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_1_attention_outp
bb560	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bb580	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.1.attention.
bb5a0	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bb5c0	72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_1_attention_output_layer
bb5e0	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
bb600	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.1.attention.ou
bb620	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bb640	63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_1_attention_output_l
bb660	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
bb680	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.1.attention.
bb6a0	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
bb6c0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_1_intermediate_dense
bb6e0	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bb700	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.1.intermediate.den
bb720	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bb740	31 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	1_intermediate_dense_bias:.PARAM
bb760	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bb780	31 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	1.intermediate.dense.bias'.p_ber
bb7a0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_1_output_dense_w
bb7c0	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bb7e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.1.output.dense.weigh
bb800	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_1_output
bb820	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bb840	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.1.output.dense
bb860	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75	.bias'.p_bert_encoder_layer_1_ou
bb880	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bb8a0	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75	.target='bert.encoder.layer.1.ou
bb8c0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bb8e0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 31 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_1_output_layernorm_b
bb900	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bb920	64 65 72 2e 6c 61 79 65 72 2e 31 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.1.output.LayerNorm.bia
bb940	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_2_attent
bb960	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bb980	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74	.target='bert.encoder.layer.2.at
bb9a0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bb9c0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_2_attention_self
bb9e0	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bba00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.2.attention.se
bba20	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
bba40	79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_2_attention_self_key_weight:
bba60	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bba80	6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.2.attention.self.key.weigh
bbaa0	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_2_attent
bbac0	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bbae0	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74	get='bert.encoder.layer.2.attent
bbb00	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
bbb20	72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_2_attention_self_value_w
bbb40	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bbb60	63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.2.attention.self.val
bbb80	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bbba0	32 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	2_attention_self_value_bias:.PAR
bbbc0	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bbbe0	72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.2.attention.self.value.bias'.p
bbc00	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_2_attention_
bbc20	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
bbc40	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65	arget='bert.encoder.layer.2.atte
bbc60	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bbc80	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_2_attention_outp
bbca0	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bbcc0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
bbce0	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bbd00	72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_2_attention_output_layer
bbd20	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
bbd40	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.2.attention.ou
bbd60	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bbd80	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_2_attention_output_l
bbda0	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
bbdc0	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.2.attention.
bbde0	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
bbe00	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_2_intermediate_dense
bbe20	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bbe40	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.2.intermediate.den
bbe60	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bbe80	32 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	2_intermediate_dense_bias:.PARAM
bbea0	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bbec0	32 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	2.intermediate.dense.bias'.p_ber
bbee0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_2_output_dense_w
bbf00	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bbf20	63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.2.output.dense.weigh
bbf40	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_2_output
bbf60	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bbf80	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.2.output.dense
bbfa0	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75	.bias'.p_bert_encoder_layer_2_ou
bbfc0	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bbfe0	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75	.target='bert.encoder.layer.2.ou
bc000	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bc020	63 6f 64 65 72 5f 6c 61 79 65 72 5f 32 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_2_output_layernorm_b
bc040	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bc060	64 65 72 2e 6c 61 79 65 72 2e 32 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.2.output.LayerNorm.bia
bc080	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_3_attent
bc0a0	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bc0c0	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74	.target='bert.encoder.layer.3.at
bc0e0	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bc100	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_3_attention_self
bc120	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bc140	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.3.attention.se
bc160	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
bc180	79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_3_attention_self_key_weight:
bc1a0	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bc1c0	6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.3.attention.self.key.weigh
bc1e0	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_3_attent
bc200	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bc220	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74	get='bert.encoder.layer.3.attent
bc240	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
bc260	72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_3_attention_self_value_w
bc280	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bc2a0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.3.attention.self.val
bc2c0	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bc2e0	33 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	3_attention_self_value_bias:.PAR
bc300	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bc320	72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.3.attention.self.value.bias'.p
bc340	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_3_attention_
bc360	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
bc380	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65	arget='bert.encoder.layer.3.atte
bc3a0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bc3c0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_3_attention_outp
bc3e0	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bc400	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.3.attention.
bc420	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bc440	72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_3_attention_output_layer
bc460	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
bc480	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.3.attention.ou
bc4a0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bc4c0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_3_attention_output_l
bc4e0	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
bc500	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.3.attention.
bc520	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
bc540	63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_3_intermediate_dense
bc560	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bc580	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.3.intermediate.den
bc5a0	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bc5c0	33 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	3_intermediate_dense_bias:.PARAM
bc5e0	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bc600	33 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	3.intermediate.dense.bias'.p_ber
bc620	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_3_output_dense_w
bc640	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bc660	63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.3.output.dense.weigh
bc680	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_3_output
bc6a0	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bc6c0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.3.output.dense
bc6e0	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75	.bias'.p_bert_encoder_layer_3_ou
bc700	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bc720	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75	.target='bert.encoder.layer.3.ou
bc740	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bc760	63 6f 64 65 72 5f 6c 61 79 65 72 5f 33 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_3_output_layernorm_b
bc780	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bc7a0	64 65 72 2e 6c 61 79 65 72 2e 33 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.3.output.LayerNorm.bia
bc7c0	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_4_attent
bc7e0	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bc800	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74	.target='bert.encoder.layer.4.at
bc820	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bc840	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_4_attention_self
bc860	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bc880	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.4.attention.se
bc8a0	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
bc8c0	79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_4_attention_self_key_weight:
bc8e0	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bc900	6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.4.attention.self.key.weigh
bc920	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_4_attent
bc940	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bc960	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74	get='bert.encoder.layer.4.attent
bc980	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
bc9a0	72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_4_attention_self_value_w
bc9c0	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bc9e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.4.attention.self.val
bca00	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bca20	34 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	4_attention_self_value_bias:.PAR
bca40	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bca60	72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.4.attention.self.value.bias'.p
bca80	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_4_attention_
bcaa0	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
bcac0	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65	arget='bert.encoder.layer.4.atte
bcae0	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bcb00	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_4_attention_outp
bcb20	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bcb40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
bcb60	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bcb80	72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_4_attention_output_layer
bcba0	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
bcbc0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.4.attention.ou
bcbe0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bcc00	63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_4_attention_output_l
bcc20	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
bcc40	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.4.attention.
bcc60	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
bcc80	63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_4_intermediate_dense
bcca0	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bccc0	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.4.intermediate.den
bcce0	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bcd00	34 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	4_intermediate_dense_bias:.PARAM
bcd20	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bcd40	34 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	4.intermediate.dense.bias'.p_ber
bcd60	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_4_output_dense_w
bcd80	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bcda0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.4.output.dense.weigh
bcdc0	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_4_output
bcde0	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bce00	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.4.output.dense
bce20	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75	.bias'.p_bert_encoder_layer_4_ou
bce40	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bce60	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75	.target='bert.encoder.layer.4.ou
bce80	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bcea0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 34 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_4_output_layernorm_b
bcec0	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bcee0	64 65 72 2e 6c 61 79 65 72 2e 34 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.4.output.LayerNorm.bia
bcf00	73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74	s'.p_bert_encoder_layer_5_attent
bcf20	69 6f 6e 5f 73 65 6c 66 5f 71 75 65 72 79 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	ion_self_query_weight:.PARAMETER
bcf40	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74	.target='bert.encoder.layer.5.at
bcf60	74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 71 75 65 72 79 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	tention.self.query.weight'.p_ber
bcf80	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66	t_encoder_layer_5_attention_self
bcfa0	5f 71 75 65 72 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_query_bias:.PARAMETER.target='b
bcfc0	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65	ert.encoder.layer.5.attention.se
bcfe0	6c 66 2e 71 75 65 72 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61	lf.query.bias'.p_bert_encoder_la
bd000	79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 77 65 69 67 68 74 3a	yer_5_attention_self_key_weight:
bd020	20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e	.PARAMETER.target='bert.encoder.
bd040	6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 77 65 69 67 68	layer.5.attention.self.key.weigh
bd060	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74	t'.p_bert_encoder_layer_5_attent
bd080	69 6f 6e 5f 73 65 6c 66 5f 6b 65 79 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72	ion_self_key_bias:.PARAMETER.tar
bd0a0	67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74	get='bert.encoder.layer.5.attent
bd0c0	69 6f 6e 2e 73 65 6c 66 2e 6b 65 79 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	ion.self.key.bias'.p_bert_encode
bd0e0	72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 77	r_layer_5_attention_self_value_w
bd100	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bd120	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c	coder.layer.5.attention.self.val
bd140	75 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	ue.weight'.p_bert_encoder_layer_
bd160	35 5f 61 74 74 65 6e 74 69 6f 6e 5f 73 65 6c 66 5f 76 61 6c 75 65 5f 62 69 61 73 3a 20 50 41 52	5_attention_self_value_bias:.PAR
bd180	41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65	AMETER.target='bert.encoder.laye
bd1a0	72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 73 65 6c 66 2e 76 61 6c 75 65 2e 62 69 61 73 27 0a 70	r.5.attention.self.value.bias'.p
bd1c0	5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f	_bert_encoder_layer_5_attention_
bd1e0	6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74	output_dense_weight:.PARAMETER.t
bd200	61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65	arget='bert.encoder.layer.5.atte
bd220	6e 74 69 6f 6e 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72	ntion.output.dense.weight'.p_ber
bd240	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70	t_encoder_layer_5_attention_outp
bd260	75 74 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ut_dense_bias:.PARAMETER.target=
bd280	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.5.attention.
bd2a0	6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65	output.dense.bias'.p_bert_encode
bd2c0	72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72	r_layer_5_attention_output_layer
bd2e0	6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	norm_weight:.PARAMETER.target='b
bd300	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e 6f 75	ert.encoder.layer.5.attention.ou
bd320	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bd340	63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 61 74 74 65 6e 74 69 6f 6e 5f 6f 75 74 70 75 74 5f 6c	coder_layer_5_attention_output_l
bd360	61 79 65 72 6e 6f 72 6d 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d	ayernorm_bias:.PARAMETER.target=
bd380	27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 61 74 74 65 6e 74 69 6f 6e 2e	'bert.encoder.layer.5.attention.
bd3a0	6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e	output.LayerNorm.bias'.p_bert_en
bd3c0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65	coder_layer_5_intermediate_dense
bd3e0	5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e	_weight:.PARAMETER.target='bert.
bd400	65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e	encoder.layer.5.intermediate.den
bd420	73 65 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f	se.weight'.p_bert_encoder_layer_
bd440	35 5f 69 6e 74 65 72 6d 65 64 69 61 74 65 5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d	5_intermediate_dense_bias:.PARAM
bd460	45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e	ETER.target='bert.encoder.layer.
bd480	35 2e 69 6e 74 65 72 6d 65 64 69 61 74 65 2e 64 65 6e 73 65 2e 62 69 61 73 27 0a 70 5f 62 65 72	5.intermediate.dense.bias'.p_ber
bd4a0	74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 64 65 6e 73 65 5f 77	t_encoder_layer_5_output_dense_w
bd4c0	65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e	eight:.PARAMETER.target='bert.en
bd4e0	63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65 2e 77 65 69 67 68	coder.layer.5.output.dense.weigh
bd500	74 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74	t'.p_bert_encoder_layer_5_output
bd520	5f 64 65 6e 73 65 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62	_dense_bias:.PARAMETER.target='b
bd540	65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 64 65 6e 73 65	ert.encoder.layer.5.output.dense
bd560	2e 62 69 61 73 27 0a 70 5f 62 65 72 74 5f 65 6e 63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75	.bias'.p_bert_encoder_layer_5_ou
bd580	74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45 52	tput_layernorm_weight:.PARAMETER
bd5a0	20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f 64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75	.target='bert.encoder.layer.5.ou
bd5c0	74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 77 65 69 67 68 74 27 0a 70 5f 62 65 72 74 5f 65 6e	tput.LayerNorm.weight'.p_bert_en
bd5e0	63 6f 64 65 72 5f 6c 61 79 65 72 5f 35 5f 6f 75 74 70 75 74 5f 6c 61 79 65 72 6e 6f 72 6d 5f 62	coder_layer_5_output_layernorm_b
bd600	69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6e 63 6f	ias:.PARAMETER.target='bert.enco
bd620	64 65 72 2e 6c 61 79 65 72 2e 35 2e 6f 75 74 70 75 74 2e 4c 61 79 65 72 4e 6f 72 6d 2e 62 69 61	der.layer.5.output.LayerNorm.bia
bd640	73 27 0a 70 5f 63 6c 61 73 73 69 66 69 65 72 5f 77 65 69 67 68 74 3a 20 50 41 52 41 4d 45 54 45	s'.p_classifier_weight:.PARAMETE
bd660	52 20 74 61 72 67 65 74 3d 27 63 6c 61 73 73 69 66 69 65 72 2e 77 65 69 67 68 74 27 0a 70 5f 63	R.target='classifier.weight'.p_c
bd680	6c 61 73 73 69 66 69 65 72 5f 62 69 61 73 3a 20 50 41 52 41 4d 45 54 45 52 20 74 61 72 67 65 74	lassifier_bias:.PARAMETER.target
bd6a0	3d 27 63 6c 61 73 73 69 66 69 65 72 2e 62 69 61 73 27 0a 63 5f 62 65 72 74 5f 6c 69 66 74 65 64	='classifier.bias'.c_bert_lifted
bd6c0	5f 74 65 6e 73 6f 72 5f 30 3a 20 43 4f 4e 53 54 41 4e 54 5f 54 45 4e 53 4f 52 20 74 61 72 67 65	_tensor_0:.CONSTANT_TENSOR.targe
bd6e0	74 3d 27 62 65 72 74 2e 6c 69 66 74 65 64 5f 74 65 6e 73 6f 72 5f 30 27 0a 62 5f 62 65 72 74 5f	t='bert.lifted_tensor_0'.b_bert_
bd700	65 6d 62 65 64 64 69 6e 67 73 5f 70 6f 73 69 74 69 6f 6e 5f 69 64 73 3a 20 42 55 46 46 45 52 20	embeddings_position_ids:.BUFFER.
bd720	74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 70 6f 73 69 74 69 6f 6e	target='bert.embeddings.position
bd740	5f 69 64 73 27 20 70 65 72 73 69 73 74 65 6e 74 3d 46 61 6c 73 65 0a 62 5f 62 65 72 74 5f 65 6d	_ids'.persistent=False.b_bert_em
bd760	62 65 64 64 69 6e 67 73 5f 74 6f 6b 65 6e 5f 74 79 70 65 5f 69 64 73 3a 20 42 55 46 46 45 52 20	beddings_token_type_ids:.BUFFER.
bd780	74 61 72 67 65 74 3d 27 62 65 72 74 2e 65 6d 62 65 64 64 69 6e 67 73 2e 74 6f 6b 65 6e 5f 74 79	target='bert.embeddings.token_ty
bd7a0	70 65 5f 69 64 73 27 20 70 65 72 73 69 73 74 65 6e 74 3d 46 61 6c 73 65 0a 69 6e 70 75 74 5f 69	pe_ids'.persistent=False.input_i
bd7c0	64 73 3a 20 55 53 45 52 5f 49 4e 50 55 54 0a 61 74 74 65 6e 74 69 6f 6e 5f 6d 61 73 6b 3a 20 55	ds:.USER_INPUT.attention_mask:.U
bd7e0	53 45 52 5f 49 4e 50 55 54 0a 0a 23 20 6f 75 74 70 75 74 73 0a 6c 69 6e 65 61 72 5f 33 36 3a 20	SER_INPUT..#.outputs.linear_36:.
bd800	55 53 45 52 5f 4f 55 54 50 55 54 0a 82 01 6a 0a 32 70 6b 67 2e 74 6f 72 63 68 2e 65 78 70 6f 72	USER_OUTPUT...j.2pkg.torch.expor
bd820	74 2e 45 78 70 6f 72 74 65 64 50 72 6f 67 72 61 6d 2e 72 61 6e 67 65 5f 63 6f 6e 73 74 72 61 69	t.ExportedProgram.range_constrai
bd840	6e 74 73 12 34 7b 73 37 32 3a 20 56 52 5b 30 2c 20 69 6e 74 5f 6f 6f 5d 2c 20 73 35 33 3a 20 56	nts.4{s72:.VR[0,.int_oo],.s53:.V
bd860	52 5b 30 2c 20 35 31 32 5d 2c 20 73 34 33 3a 20 56 52 5b 31 2c 20 32 5d 7d 42 04 0a 00 10 12	R[0,.512],.s43:.VR[1,.2]}B.....